1
00:00:03,003 --> 00:00:05,405
(stor orkesterfanfare
spiller)
2
00:00:27,795 --> 00:00:30,163
♪ ♪
3
00:00:41,843 --> 00:00:44,144
(fugle kvidrer og kalder)
4
00:00:49,216 --> 00:00:51,519
-(burling)
-(trilling)
5
00:00:55,657 --> 00:00:58,058
(VCR klikker og suser)
6
00:01:01,194 --> 00:01:02,630
(projektor klikker)
7
00:01:05,332 --> 00:01:09,637
Nu, nutidens computere
er fuldstændige idioter,
8
00:01:09,671 --> 00:01:12,507
men dette vil ikke være sandt
i en anden generation.
9
00:01:12,540 --> 00:01:15,342
De vil begynde at tænke,
og til sidst vil de
10
00:01:15,375 --> 00:01:17,845
helt overskue
deres skabere.
11
00:01:17,879 --> 00:01:20,582
Er det deprimerende?
Jeg kan ikke se hvorfor det skulle være det.
12
00:01:20,615 --> 00:01:25,352
Jeg formoder, at det er økologisk
eller biologisk evolution
13
00:01:25,385 --> 00:01:27,220
er ved at være slut.
14
00:01:28,322 --> 00:01:29,791
(Daniel griner)
15
00:01:29,824 --> 00:01:31,224
CAROLINE: Du vil ikke have mig
at være fortælleren.
16
00:01:31,258 --> 00:01:32,694
Jeg har ikke en god stemme.
17
00:01:32,727 --> 00:01:34,461
DANIEL: Du har en fantastisk stemme.
Gør det bare.
18
00:01:34,494 --> 00:01:36,598
Det er bare en--
vi prøver det lige af.
19
00:01:36,631 --> 00:01:38,432
CAROLINE:
Bliver jeg betalt for dette lort?
20
00:01:38,465 --> 00:01:40,768
DANIEL (ler): Nå,
vi vil se, hvor godt du klarer dig.
21
00:01:40,802 --> 00:01:42,202
(Caroline griner)
22
00:01:42,235 --> 00:01:44,304
-♪ ♪
-(hund gøer)
23
00:01:46,908 --> 00:01:48,576
CAROLINE:
Jeg skal ringe til mine forældre.
24
00:01:48,610 --> 00:01:49,309
(motoren starter)
25
00:01:49,343 --> 00:01:51,478
Nogle gange skynder vi os ud i tingene
26
00:01:51,512 --> 00:01:53,347
uden at tænke dem igennem.
27
00:01:53,380 --> 00:01:54,916
DANIEL: Ja, kan du...
vil du skyde? Det er...
28
00:01:54,949 --> 00:01:57,752
CAROLINE: Som da Daniel
og Caroline blev gift
29
00:01:57,785 --> 00:02:00,755
151 dage efter de mødtes.
30
00:02:00,788 --> 00:02:02,523
Lad os spole tilbage.
31
00:02:03,691 --> 00:02:05,325
(bifald)
32
00:02:05,359 --> 00:02:07,562
Har du tænkt dig om
købe en hjemmecomputer?
33
00:02:07,595 --> 00:02:09,631
CAROLINE:
I 1993, da Daniel blev født,
34
00:02:09,664 --> 00:02:12,533
hans forældre havde ikke engang
en computer i huset.
35
00:02:12,567 --> 00:02:14,334
Men han husker det
da de endelig fik en.
36
00:02:14,368 --> 00:02:16,269
Hvad en computer er for mig er
37
00:02:16,303 --> 00:02:18,873
svarende til en cykel
for vores sind.
38
00:02:18,906 --> 00:02:20,608
Hej.
39
00:02:20,642 --> 00:02:22,777
CAROLINE: Hans computer hjalp
slip sin kreativitet løs.
40
00:02:22,810 --> 00:02:24,411
DANIEL:
Rulning. Gå.
41
00:02:24,444 --> 00:02:27,247
CAROLINE: Han brugte
hans fars iMac til at redigere videoer.
42
00:02:27,280 --> 00:02:28,650
Ja!
43
00:02:28,683 --> 00:02:30,618
CAROLINE: Og selv lave
små animationer.
44
00:02:30,652 --> 00:02:32,419
(dæk hvinende, styrter)
45
00:02:32,452 --> 00:02:35,690
I 1998, da Caroline var
en lille pige...
46
00:02:35,723 --> 00:02:37,290
Hej, mor.
47
00:02:37,324 --> 00:02:38,593
...kun nørder vidste det
hvad internettet var.
48
00:02:38,626 --> 00:02:40,360
Og hvad med
denne internet ting?
49
00:02:40,394 --> 00:02:41,696
-Ved du, ved du noget
om det? -Sikker.
50
00:02:41,729 --> 00:02:43,330
-(publikum ler)
-CAROLINE: Men snart,
51
00:02:43,363 --> 00:02:45,399
-alle var på...
-...Internet.
52
00:02:45,432 --> 00:02:47,467
...og computere var
slår mennesker i skak.
53
00:02:47,502 --> 00:02:50,470
FORTALER: Deep Blue--
Kasparov har trukket sig!
54
00:02:50,505 --> 00:02:52,874
CAROLINE: Og efterhånden
Caroline gik på college,
55
00:02:52,907 --> 00:02:55,543
computere var
i alles lomme.
56
00:02:55,576 --> 00:02:58,713
Nu kunne Daniel lave film
med sin telefon.
57
00:02:58,746 --> 00:03:02,215
Han voksede op til at blive kunstner
og en filmskaber...
58
00:03:02,249 --> 00:03:04,418
- Godnat.
-...og det gjorde Caroline også.
59
00:03:04,451 --> 00:03:06,286
Klip. Lad os gå ind i et nærbillede.
Det var perfekt.
60
00:03:06,319 --> 00:03:07,822
På det tidspunkt var computere
forbinder mennesker
61
00:03:07,855 --> 00:03:09,456
og ændre verden på måder
62
00:03:09,489 --> 00:03:10,925
at vi aldrig
kunne have forestillet sig.
63
00:03:10,958 --> 00:03:12,694
Alle pengene indsamlet af
Ice Bucket Challenge...
64
00:03:12,727 --> 00:03:14,796
CAROLINE:
Noget af det var godt.
65
00:03:14,829 --> 00:03:15,963
(gispende)
66
00:03:15,997 --> 00:03:17,565
Nogle er ikke så gode.
67
00:03:17,598 --> 00:03:19,701
Angst, selvskade, selvmord...
68
00:03:19,734 --> 00:03:21,602
Men det er klart nu
at vi ikke gjorde nok
69
00:03:21,636 --> 00:03:24,839
at forhindre disse værktøjer i
bliver også brugt til skade.
70
00:03:24,872 --> 00:03:26,741
CAROLINE: Og som verden
blev mere og mere fokuseret
71
00:03:26,774 --> 00:03:28,543
-på deres computere,
-(telefonen ringer)
72
00:03:28,576 --> 00:03:31,211
Daniel fokuserede på sit kunstværk.
73
00:03:32,312 --> 00:03:36,249
Hvor end han gik,
han havde altid en skitsebog,
74
00:03:36,283 --> 00:03:38,720
inklusive natten
han mødte Caroline.
75
00:03:38,753 --> 00:03:41,923
Han tegnede et frygteligt billede
af hende, og 20 minutter senere,
76
00:03:41,956 --> 00:03:44,592
udtalte han dristigt
de skulle giftes,
77
00:03:44,625 --> 00:03:47,862
hvilket de, som du ved, gjorde,
151 dage senere.
78
00:03:47,895 --> 00:03:50,464
KVINDE: ...udtal nu dig
mand og kone.
79
00:03:50,497 --> 00:03:51,933
CAROLINE:
De flyttede ind i et sødt hus...
80
00:03:51,966 --> 00:03:53,433
-DANIEL: Elg, hej! Kom her!
-...og fik en hund
81
00:03:53,467 --> 00:03:54,936
så dum som Daniel.
82
00:03:54,969 --> 00:03:57,872
I mellemtiden var computere
skriver hele essays
83
00:03:57,905 --> 00:03:59,707
baseret på simple spørgsmål som,
84
00:03:59,741 --> 00:04:02,777
"Hvor svært ville det være at bygge
en hytte i min baghave?"
85
00:04:03,443 --> 00:04:06,514
Så Daniel byggede en hytte
i hans baghave.
86
00:04:07,380 --> 00:04:10,317
Men lige da han satte sig for at starte
arbejder på sin næste film,
87
00:04:10,350 --> 00:04:14,488
han lærte at computere
nu kunne skrive manuskripter.
88
00:04:15,422 --> 00:04:16,891
Jeg mener, de var dårlige,
89
00:04:16,924 --> 00:04:19,326
men de blev bedre
rigtig hurtigt.
90
00:04:19,359 --> 00:04:21,929
De kunne skabe nye billeder
og videoer fra bunden,
91
00:04:21,963 --> 00:04:25,032
og nogle af dem
kunne endda bestå advokateksamenen.
92
00:04:25,066 --> 00:04:29,402
Ikke bare gå forbi baren, men
være i top ti percentilen.
93
00:04:29,436 --> 00:04:31,038
CAROLINE:
Det var forvirrende.
94
00:04:31,072 --> 00:04:32,607
(suk)
95
00:04:32,640 --> 00:04:35,543
Daniel ville bare have
en cykel for hans sind,
96
00:04:35,576 --> 00:04:39,080
men computere var blevet
et selvkørende raketskib.
97
00:04:39,113 --> 00:04:40,648
(sukker)
98
00:04:40,681 --> 00:04:42,517
("Vi har kontrol"
af Neil Young, der spiller)
99
00:04:42,550 --> 00:04:45,385
Pionerer på området
af kunstig intelligens
100
00:04:45,418 --> 00:04:46,821
opfordrer Kongressen
101
00:04:46,854 --> 00:04:48,856
for at vedtage sikkerhedsregler
før det er for sent.
102
00:04:48,890 --> 00:04:50,858
CAROLINE: Nu føltes det som
hele verden
103
00:04:50,892 --> 00:04:53,528
løb ind i noget
uden at tænke over det,
104
00:04:53,561 --> 00:04:55,830
og alle havde en mening.
105
00:04:56,564 --> 00:05:00,635
Skulle det ødelægge verden?
eller redde menneskeheden?
106
00:05:00,668 --> 00:05:02,804
Der var for mange oplysninger,
107
00:05:02,837 --> 00:05:05,106
hvilket gjorde ham ængstelig,
hvilket gjorde Caroline ængstelig...
108
00:05:05,139 --> 00:05:06,541
(oprørt skrig)
109
00:05:06,574 --> 00:05:08,042
Jeg har ikke børn endnu,
men jeg bekymrer mig
110
00:05:08,075 --> 00:05:10,645
hvordan verden ville se ud
hvis jeg beslutter mig for det. (griner)
111
00:05:10,678 --> 00:05:12,947
CAROLINE:
Han begyndte at spinde ud.
112
00:05:12,980 --> 00:05:14,549
(utydelig snak)
113
00:05:14,582 --> 00:05:17,685
Det var ved at blive
et bjerg af angst.
114
00:05:19,620 --> 00:05:22,322
-MAN: Det er forfærdeligt.
- Det er vildt Siri.
115
00:05:23,124 --> 00:05:25,893
CAROLINE:
Så besluttede Daniel at gå ud
116
00:05:25,927 --> 00:05:28,529
og find nogen
hvem kunne forklare ham dette,
117
00:05:28,563 --> 00:05:30,631
så han kunne stoppe
tænker over det
118
00:05:30,665 --> 00:05:33,835
og det kunne han og Caroline
kom videre med deres liv.
119
00:05:33,868 --> 00:05:37,437
♪ Vi har kontrol,
vi har kontrol ♪
120
00:05:37,470 --> 00:05:39,006
♪ Vi har kontrol ♪
121
00:05:39,040 --> 00:05:41,042
♪ Kemisk computer
tænkende batteri ♪
122
00:05:41,075 --> 00:05:42,877
♪ Vi har kontrol, vi er... ♪
123
00:05:42,910 --> 00:05:45,980
Denne bestræbelse ville vise sig
at være håbløst naiv
124
00:05:46,013 --> 00:05:49,584
og starter det mest forvirrende
år af hans liv.
125
00:05:49,617 --> 00:05:50,985
♪ Vi har kontrol... ♪
126
00:05:51,018 --> 00:05:53,420
Men som vi ved,
nogle gange skynder vi os ud i tingene
127
00:05:53,453 --> 00:05:54,956
uden at tænke dem igennem.
128
00:05:54,989 --> 00:05:56,791
♪ Kemisk computer
tænker batteri... ♪
129
00:05:56,824 --> 00:05:58,491
Åh, gud. Hvad sker der?
130
00:05:58,526 --> 00:06:00,127
CAROLINE:
Han havde spørgsmål.
131
00:06:00,161 --> 00:06:02,096
Spørgsmål kun
de smarteste nørder kunne svare.
132
00:06:02,129 --> 00:06:04,665
Underkaster sig forhørslederen.
133
00:06:04,699 --> 00:06:06,399
CAROLINE:
Spørgsmål som:
134
00:06:06,433 --> 00:06:09,103
Var dette apokalypsen
eller havde han faktisk grund
135
00:06:09,136 --> 00:06:10,705
-at være optimistisk?
-Ja.
136
00:06:11,305 --> 00:06:14,407
-♪ Kemisk computertænkning
batteri. ♪ -(sang slutter)
137
00:06:14,441 --> 00:06:16,677
CAROLINE:
Øh, er det godt?
138
00:06:16,711 --> 00:06:18,112
DANIEL:
Ja.
139
00:06:18,145 --> 00:06:20,648
Så for at begynde,
140
00:06:20,681 --> 00:06:22,482
hvad er kunstig intelligens?
141
00:06:22,516 --> 00:06:25,152
Jeg ved, det må være irriterende
til dig, det-det spørgsmål,
142
00:06:25,186 --> 00:06:27,021
men jeg synes det er vigtigt.
143
00:06:27,054 --> 00:06:30,423
Så... AI...
144
00:06:30,457 --> 00:06:32,459
(stammer) Øh...
145
00:06:32,492 --> 00:06:34,161
- Ja...
- Øh, hmm.
146
00:06:34,195 --> 00:06:35,196
(griner):
Det er et godt spørgsmål.
147
00:06:35,229 --> 00:06:36,697
- Ja, øh...
- Øh...
148
00:06:36,731 --> 00:06:38,165
DANIEL:
Hvad er AI?
149
00:06:38,199 --> 00:06:39,634
(griner)
150
00:06:39,667 --> 00:06:41,035
Jeg elsker, at det er
det første spørgsmål,
151
00:06:41,068 --> 00:06:43,671
for det er der ikke
et klart og konsekvent svar.
152
00:06:43,704 --> 00:06:45,740
Kunstig intelligens er
153
00:06:45,773 --> 00:06:51,178
en slags med vilje
og måske ubrugelig bred term.
154
00:06:51,212 --> 00:06:53,781
DAVID EVAN HARRIS:
Det er en maskine
155
00:06:53,814 --> 00:06:56,083
gør ting, der
vi troede tidligere kun
156
00:06:56,117 --> 00:06:57,718
som folk kunne gøre:
157
00:06:57,752 --> 00:07:01,656
komme med anbefalinger,
beslutninger og forudsigelser.
158
00:07:01,689 --> 00:07:07,228
AI er, øh, applikationen
af datalogi
159
00:07:07,261 --> 00:07:09,664
til at løse kognitive problemer.
160
00:07:09,697 --> 00:07:13,768
Okay, så når jeg forestiller mig AI,
161
00:07:13,801 --> 00:07:17,204
det er ligesom
denne magiske computerboks...
162
00:07:17,238 --> 00:07:19,640
♪ ♪
163
00:07:20,708 --> 00:07:24,645
...bare, ligesom, flydende
i, ligesom, inert rum.
164
00:07:24,679 --> 00:07:26,847
Og lige meget
hvor mange gange folk prøver
165
00:07:26,881 --> 00:07:30,051
og forklar mig det,
Jeg forstår bare ikke hvordan...
166
00:07:30,084 --> 00:07:32,887
hvordan det er forståeligt
alle disse ting
167
00:07:32,920 --> 00:07:36,190
og hvordan det føles
intelligens.
168
00:07:36,223 --> 00:07:37,692
(bip, elektronisk chatteri)
169
00:07:37,725 --> 00:07:39,927
Og det er den slags
nerverivende.
170
00:07:41,729 --> 00:07:46,499
AZA RASKIN: Hvad er
denne nye generation af kunstig intelligens?
171
00:07:47,535 --> 00:07:50,638
Denne AI, der er anderledes end
hver anden generation?
172
00:07:50,671 --> 00:07:53,040
Sådan, ingen nogensinde
talte om, som
173
00:07:53,074 --> 00:07:57,545
Siri overtager verden
eller forårsage katastrofer.
174
00:07:57,578 --> 00:07:59,080
- KVINDE: Hej, Siri?
-MAN: ...vil.
175
00:07:59,113 --> 00:08:01,115
KVINDE:
Hej? Siri?
176
00:08:01,148 --> 00:08:02,984
Hej? Hej Siri!
177
00:08:03,017 --> 00:08:06,253
Eller stemmen i Google Maps,
som udtaler vejnavne forkert,
178
00:08:06,287 --> 00:08:07,888
som at bryde samfundet.
179
00:08:07,922 --> 00:08:10,992
MAN: Google Maps siger
dette er en vej.
180
00:08:11,025 --> 00:08:13,627
(ler):
Men jeg tror, jeg er i en flod.
181
00:08:13,661 --> 00:08:14,996
Dette er bestemt en flod,
innit?
182
00:08:15,029 --> 00:08:17,898
Noget ændrede sig
med ChatGPT, der kommer ud.
183
00:08:18,532 --> 00:08:20,568
Folk forstod-- nej, nej, nej--
184
00:08:20,601 --> 00:08:21,869
denne teknologi
sindssygt værdifuldt,
185
00:08:21,902 --> 00:08:24,005
det er sindssygt stærkt
og også sindssygt skræmmende.
186
00:08:24,038 --> 00:08:25,940
Okay, hør her.
Meget uhyggelig.
187
00:08:25,973 --> 00:08:28,976
En ny kunstig intelligens
værktøj går viralt
188
00:08:29,010 --> 00:08:32,980
for at skrive hele essays ud
i løbet af få sekunder.
189
00:08:36,217 --> 00:08:41,722
AI overskygger alles magt
andre teknologier kombineret.
190
00:08:41,756 --> 00:08:44,058
DANIEL:
"AI dværger magten
191
00:08:44,091 --> 00:08:46,827
af alle andre teknologier
kombineret."
192
00:08:46,861 --> 00:08:47,762
Ja.
193
00:08:47,795 --> 00:08:49,230
Tror du, det er sandt?
194
00:08:49,263 --> 00:08:51,265
Ja.
195
00:08:51,298 --> 00:08:53,567
Fortæl mig om... Hvordan? Hvordan?
196
00:08:53,601 --> 00:08:57,038
Jeg tror, for at male det billede,
det er virkelig vigtigt
197
00:08:57,071 --> 00:09:01,175
at forstå, hvad der er i dag
state-of-the-art systemer
198
00:09:01,208 --> 00:09:02,777
se ud og hvordan de er bygget.
199
00:09:02,810 --> 00:09:06,280
(griner) Dette er
ret... noget af et setup.
200
00:09:06,313 --> 00:09:07,782
Så, én ting der
201
00:09:07,815 --> 00:09:10,051
ikke mange mennesker
indse er det
202
00:09:10,084 --> 00:09:14,221
systemer som ChatGPT er det ikke
programmeret af ethvert menneske.
203
00:09:14,255 --> 00:09:15,756
Hvad mener du?
204
00:09:15,790 --> 00:09:17,625
I stedet er det sådan noget
de er voksne.
205
00:09:17,658 --> 00:09:19,727
Vi giver dem ligesom
rå ressourcer som f.
206
00:09:19,760 --> 00:09:21,629
"Her er en masse
beregningsressourcer.
207
00:09:21,662 --> 00:09:22,730
Her er en masse data."
208
00:09:22,763 --> 00:09:24,165
Under motorhjelmen er det matematik,
209
00:09:24,198 --> 00:09:27,668
og matematikken er faktisk
overraskende ligetil.
210
00:09:27,701 --> 00:09:31,672
DANIEL: Så ChatGPT er en slags
af AI, men det er ikke alt af AI?
211
00:09:31,705 --> 00:09:33,207
Helt. ChatGPT er
kun begyndelsen,
212
00:09:33,240 --> 00:09:34,675
men det er et godt sted at starte.
213
00:09:34,708 --> 00:09:38,145
Men jeg ved det stadig ikke
hvad AI er.
214
00:09:38,179 --> 00:09:40,848
For at forstå AI,
det begynder med forståelse
215
00:09:40,881 --> 00:09:43,717
at intelligens handler om
genkende mønstre.
216
00:09:43,751 --> 00:09:45,186
- Mønstre. - Mønstre.
- Mønstre.
217
00:09:45,219 --> 00:09:48,956
COTRA: Det er vist
billioner af ord med tekst
218
00:09:48,989 --> 00:09:51,826
på tværs af millioner af dokumenter
på internettet.
219
00:09:51,859 --> 00:09:53,127
RANDIMA FERNANDO:
Det startede med tekst.
220
00:09:53,160 --> 00:09:56,197
Og det de gjorde var
de tog lærebøger,
221
00:09:56,230 --> 00:09:59,967
og de tog digte og essays
og brugsanvisninger.
222
00:10:00,000 --> 00:10:01,368
DAVID EVAN HARRIS:
De kan f.eks.
223
00:10:01,402 --> 00:10:03,370
fordøje hele internettet,
224
00:10:03,404 --> 00:10:07,108
hvert eneste ord, der nogensinde er
skrevet af en person.
225
00:10:07,141 --> 00:10:10,244
Reddit-tråde og sociale medier
og hele Wikipedia.
226
00:10:10,277 --> 00:10:14,048
Flere data end nogen kunne
nogensinde læst i flere liv.
227
00:10:14,081 --> 00:10:15,950
Og de gav dette system
ét job.
228
00:10:15,983 --> 00:10:18,953
Find ud af mønstrene og
strukturen af den information
229
00:10:18,986 --> 00:10:21,122
og bruge det
at komme med forudsigelser om
230
00:10:21,155 --> 00:10:23,791
hvilket ord skal komme efter
i en sætning.
231
00:10:23,824 --> 00:10:25,426
Når du siger
"mønstre i en sætning,"
232
00:10:25,459 --> 00:10:27,128
hvad taler du om?
233
00:10:27,161 --> 00:10:29,864
Så det er alt fra f.eks.
de virkelig simple ting,
234
00:10:29,897 --> 00:10:32,266
som de fleste sætninger slutter
med en periode,
235
00:10:32,299 --> 00:10:35,402
helt op til
mere konceptuelle ting, som:
236
00:10:35,436 --> 00:10:37,138
Hvad er en sonet?
237
00:10:37,171 --> 00:10:39,039
Det er en type digt, og det har den
en bestemt struktur.
238
00:10:39,707 --> 00:10:41,809
RASKIN:
Så, den ser derefter på
239
00:10:41,842 --> 00:10:44,011
alle disse data,
al den tekst...
240
00:10:44,044 --> 00:10:46,313
COTRA: Og over billioner
og billioner af forsøg,
241
00:10:46,347 --> 00:10:49,150
hver gang den får noget
rigtigt eller forkert,
242
00:10:49,183 --> 00:10:51,819
det er givet en lille smule
af positiv forstærkning
243
00:10:51,852 --> 00:10:53,888
når den gætter
det næste ord korrekt,
244
00:10:53,921 --> 00:10:56,090
og det er givet en lille smule
af negativ forstærkning
245
00:10:56,123 --> 00:10:58,926
når den gætter
det næste ord forkert.
246
00:10:59,727 --> 00:11:02,029
Og i slutningen af det,
du har et system, der
247
00:11:02,062 --> 00:11:05,332
taler rigtig godt engelsk
som en bivirkning
248
00:11:05,366 --> 00:11:07,168
at være rigtig, rigtig god
ved at forudsige
249
00:11:07,201 --> 00:11:09,103
det ord, der kommer næste gang
i et stykke tekst.
250
00:11:09,136 --> 00:11:11,972
(automatiseret stemme
taler fransk)
251
00:11:12,006 --> 00:11:14,308
Den bruger alle disse mønstre
det har lært
252
00:11:14,341 --> 00:11:16,277
for at kunne lave
en forudsigelse om
253
00:11:16,310 --> 00:11:17,811
hvad svaret skal være,
254
00:11:17,845 --> 00:11:19,180
så giver det dig det
som output.
255
00:11:19,213 --> 00:11:21,482
AUTOMATISK STEMME:
Det er lidt forsimplet,
256
00:11:21,516 --> 00:11:23,717
men jeg tror, folk vil få det.
257
00:11:23,751 --> 00:11:25,252
Så det er alt det gør?
258
00:11:25,286 --> 00:11:27,354
Ja. Det ser det ikke ud til
det ville være så kompliceret,
259
00:11:27,388 --> 00:11:28,489
men faktisk skal du vide det
260
00:11:28,523 --> 00:11:30,057
en enorm mængde ting
261
00:11:30,090 --> 00:11:32,092
for at
faktisk lykkes med det.
262
00:11:32,793 --> 00:11:34,461
RASKIN:
Hvis du siger til ChatGPT,
263
00:11:34,495 --> 00:11:37,131
"Skriv en Shakespeareaner til mig
sonet om min hund,"
264
00:11:37,164 --> 00:11:39,166
det skal vide, hvad hunde er.
265
00:11:39,200 --> 00:11:40,935
-Det skal vide, hvad du elsker
om din hund. -(gøen)
266
00:11:40,968 --> 00:11:43,304
Det skal vide
hvem Shakespeare er,
267
00:11:43,337 --> 00:11:46,040
at sonetter rimer,
at de har en struktur,
268
00:11:46,073 --> 00:11:48,342
at ord har lyde
der kan rime.
269
00:11:48,375 --> 00:11:49,843
Der skal meget til.
270
00:11:49,877 --> 00:11:51,212
(stemmer overlapper hinanden
på forskellige sprog)
271
00:11:51,245 --> 00:11:53,280
Holy shit, du kan tale
til din computer nu.
272
00:11:53,314 --> 00:11:56,350
Det var bare ikke sandt
tre år siden.
273
00:11:56,383 --> 00:11:58,085
RASKIN: Ja, og det er det
den virkelig vigtige del.
274
00:11:58,118 --> 00:12:01,055
Den samme proces, der tillader AI
275
00:12:01,088 --> 00:12:03,490
afdæk og manipuler
tekstens mønstre
276
00:12:03,525 --> 00:12:06,160
er den samme proces
der lader den afsløre
277
00:12:06,193 --> 00:12:10,231
helhedens mønstre
universet og alt i det.
278
00:12:10,831 --> 00:12:13,234
FERNANDO: Der er mønstre
og billeder og lyd
279
00:12:13,267 --> 00:12:16,470
i computerkode og DNA
og musik og fysik
280
00:12:16,504 --> 00:12:18,973
og mode- og bygningsdesign
281
00:12:19,006 --> 00:12:22,042
(forvrænget): og i
menneskestemmer og menneskelige ansigter,
282
00:12:22,076 --> 00:12:24,245
(normalt):
virkelig, virkelig overalt.
283
00:12:24,278 --> 00:12:26,347
- Overalt. -Overalt.
-Overalt. -Overalt.
284
00:12:26,380 --> 00:12:28,182
Hvis du har lært
disse mønstre,
285
00:12:28,215 --> 00:12:30,117
du kan generere
nye slags sange.
286
00:12:30,150 --> 00:12:31,785
Du kan generere nye videoer.
287
00:12:31,819 --> 00:12:33,087
Og det er derfor, hvis du giver det
288
00:12:33,120 --> 00:12:35,322
en tre sekunders optagelse
af din bedstemor,
289
00:12:35,356 --> 00:12:37,224
det kan tale tilbage i hendes stemme.
290
00:12:37,258 --> 00:12:38,092
Åh, min Gud.
291
00:12:38,125 --> 00:12:41,061
(gentager):
Åh, min Gud. Åh, min Gud.
292
00:12:41,095 --> 00:12:43,397
Hvad vil de tænke på næste gang?
293
00:12:43,430 --> 00:12:44,532
Det bevæger sig meget, meget hurtigt.
294
00:12:44,566 --> 00:12:46,400
En amerikansk AI-start-up
295
00:12:46,433 --> 00:12:48,068
har udgivet sin seneste model.
296
00:12:48,102 --> 00:12:51,171
Det firma er antropisk,
og den er netop afsløret
297
00:12:51,205 --> 00:12:54,174
de seneste versioner
af dens AI-assistent Claude.
298
00:12:54,208 --> 00:12:57,411
GLENN BECK: Så, xAI-holdet
var der for at afsløre Grok 4.
299
00:12:57,444 --> 00:13:00,414
MAN: Google har frigivet en
bare i sidste uge. Tvillingerne er...
300
00:13:00,447 --> 00:13:03,417
Vi er gået fra GPT-2
for bare et par år siden,
301
00:13:03,450 --> 00:13:06,020
som knap kunne skrive
et sammenhængende afsnit,
302
00:13:06,053 --> 00:13:08,322
til GPT-4,
som kan bestå advokateksamen.
303
00:13:08,355 --> 00:13:10,924
Og alt, hvad de skulle gøre
at komme dertil
304
00:13:10,958 --> 00:13:13,294
var i det væsentlige tilføje flere data
og mere beregning.
305
00:13:13,327 --> 00:13:16,897
- Disse mennesker, der er
bygge denne... -COTRA: Ja.
306
00:13:16,930 --> 00:13:18,332
...de smider bare mere...
307
00:13:18,365 --> 00:13:22,236
Flere fysiske computere,
flere af de samme slags data.
308
00:13:22,269 --> 00:13:25,039
For jo flere
regnekraft du tilføjer,
309
00:13:25,072 --> 00:13:28,375
jo mere komplekse
intellektuelle opgaver, de kan udføre.
310
00:13:28,409 --> 00:13:30,444
Så, jo flere vejrdata
du giver det,
311
00:13:30,477 --> 00:13:32,446
jo bedre kan det
foretag forudsigelser om
312
00:13:32,479 --> 00:13:34,448
hvor en orkan kan gå hen.
313
00:13:34,481 --> 00:13:36,584
RASKIN: Og jo flere mønstre
af tumorer og knogler
314
00:13:36,618 --> 00:13:39,253
og væv en AI har set,
så jo bedre er den i stand
315
00:13:39,286 --> 00:13:42,489
for at opdage en tumor
i en ny CT-scanning.
316
00:13:42,524 --> 00:13:44,124
Bedre selv end en menneskelig læge.
317
00:13:44,158 --> 00:13:47,328
AI, der allerede eksisterer
udsendt til militæret
318
00:13:47,361 --> 00:13:49,463
kan allerede bruge
satellitbilleder,
319
00:13:49,496 --> 00:13:52,199
troppebevægelser, kommunikation
for at bestemme,
320
00:13:52,232 --> 00:13:53,934
-nogle gange dage i forvejen,
-(civilforsvarssirene buldrer)
321
00:13:53,967 --> 00:13:55,336
hvor et angreb
kommer til at ske,
322
00:13:55,369 --> 00:13:57,605
som hvor en fjende
kommer til at strejke.
323
00:13:57,639 --> 00:14:00,007
TRISTAN HARRIS: Hele denne
rummet bevæger sig så hurtigt
324
00:14:00,040 --> 00:14:02,142
at ethvert eksempel
du sætter i denne film
325
00:14:02,176 --> 00:14:05,112
vil føles helt klodset
når det kommer ud.
326
00:14:05,145 --> 00:14:07,348
(bipper, klikker)
327
00:14:09,950 --> 00:14:11,653
- (bifald)
- (der afspilles optimistisk musik)
328
00:14:11,686 --> 00:14:14,421
RASKIN:
Disse modeller er ved at blive frigivet
329
00:14:14,455 --> 00:14:17,391
før nogen ved det
hvad de overhovedet er i stand til.
330
00:14:17,424 --> 00:14:22,896
GPT-3.5 blev frigivet og ud
til 100 millioner mennesker plus
331
00:14:22,930 --> 00:14:26,333
før nogle forskere
opdagede, at det kunne gøre det
332
00:14:26,367 --> 00:14:29,203
kemi i forskningsklasse
bedre end modeller
333
00:14:29,236 --> 00:14:33,240
der er uddannet specifikt
at lave kemi i forskningsklasse.
334
00:14:33,273 --> 00:14:36,009
Der sker noget derinde
at folket
335
00:14:36,043 --> 00:14:38,546
der bygger dem
forstår ikke helt.
336
00:14:38,580 --> 00:14:41,348
I bund og grund analyserer den bare
dataene i sig selv,
337
00:14:41,382 --> 00:14:45,419
og som det gør det,
det lærer bare sig selv
338
00:14:45,452 --> 00:14:48,355
forskellige ting
som vi ofte ikke havde til hensigt.
339
00:14:48,389 --> 00:14:50,324
Så for eksempel
den læser meget online,
340
00:14:50,357 --> 00:14:53,127
og så på et tidspunkt, bare
lærer, hvordan man laver aritmetik.
341
00:14:53,160 --> 00:14:54,662
BØRN:
En, to.
342
00:14:54,696 --> 00:14:56,463
HENDRYCKS: Og så kl.
på et tidspunkt begynder det at lære
343
00:14:56,497 --> 00:14:59,099
hvordan man svarer
avancerede fysikspørgsmål.
344
00:14:59,133 --> 00:15:01,268
Det har vi ikke programmeret
i det overhovedet.
345
00:15:01,301 --> 00:15:03,203
Det har bare lært af sig selv.
346
00:15:05,640 --> 00:15:07,709
TRISTAN HARRIS:
En kunstig intelligens er som en digital hjerne.
347
00:15:07,742 --> 00:15:09,176
Men ligesom en menneskelig hjerne,
348
00:15:09,209 --> 00:15:11,078
hvis du har lavet en hjernescanning
på en menneskelig hjerne,
349
00:15:11,111 --> 00:15:13,447
ville du vide alt
den person var i stand til?
350
00:15:13,480 --> 00:15:15,482
Det kan du ikke vide
lige fra hjernescanningen.
351
00:15:15,517 --> 00:15:18,318
Det er bare sådan,
en masse tal og f.eks.
352
00:15:18,352 --> 00:15:20,522
de multiplikationer, der er
der sker det-det, som,
353
00:15:20,555 --> 00:15:22,524
den bedste maskinlæring
forsker i verden
354
00:15:22,557 --> 00:15:25,159
kunne se på og gerne have
ingen anelse om hvad der skete.
355
00:15:31,398 --> 00:15:33,200
DANIEL:
Den stol lige der.
356
00:15:33,233 --> 00:15:35,469
- Er det okay for dig?
-Ja.
357
00:15:36,136 --> 00:15:38,172
DANIEL: Så,
det er lidt åndssvagt.
358
00:15:38,205 --> 00:15:39,440
Okay? Det tager ligesom overhånd
verden,
359
00:15:39,473 --> 00:15:41,609
og vi ved det ikke engang
hvordan det virker.
360
00:15:41,643 --> 00:15:43,477
- Er det rigtigt?
-Mm.
361
00:15:43,511 --> 00:15:47,381
Vi forstår
en række vigtige ting,
362
00:15:47,414 --> 00:15:51,051
men det har vi ikke
meget godt fat i
363
00:15:51,084 --> 00:15:53,521
hvorfor de giver
konkrete svar på spørgsmål.
364
00:15:53,555 --> 00:15:58,992
Det er et problem, fordi vi er
på vej mod at bygge maskiner,
365
00:15:59,026 --> 00:16:03,531
baseret på disse principper,
det kunne være smartere end os
366
00:16:03,565 --> 00:16:07,067
og dermed potentielt har
en masse magt.
367
00:16:12,774 --> 00:16:15,610
En af de mest citerede
dataloger i historien.
368
00:16:15,643 --> 00:16:17,545
SUTSKEVER: Jeg finder det faktisk
lidt svært
369
00:16:17,579 --> 00:16:19,079
at tale om min egen rolle.
370
00:16:19,112 --> 00:16:21,448
Virkelig meget foretrækker
når andre mennesker gør det.
371
00:16:21,482 --> 00:16:24,351
Ilya, der kom med var...
var-var nøglen til
372
00:16:24,384 --> 00:16:26,086
OpenAI væsen
i sidste ende vellykket.
373
00:16:26,119 --> 00:16:27,522
Det tror jeg bare, det bliver
374
00:16:27,555 --> 00:16:31,158
en slags enorm, dramatisk
og ufattelig effekt.
375
00:16:31,191 --> 00:16:33,327
Jeg ved ikke, om du har brugt
når som helst på YouTube,
376
00:16:33,360 --> 00:16:35,563
men man kan godt mærke
hastigheden allerede, ikke?
377
00:16:35,597 --> 00:16:36,764
Ved du hvad jeg mener?
378
00:16:36,798 --> 00:16:38,633
SHANE LEGG:
Dette er kun opvarmningen.
379
00:16:38,666 --> 00:16:41,068
De virkelig kraftfulde systemer
kommer stadig,
380
00:16:41,101 --> 00:16:43,136
og de kommer
ret snart.
381
00:16:48,408 --> 00:16:52,145
AGI står for "kunstig
generel intelligens."
382
00:16:52,179 --> 00:16:54,481
Øh, det er systemer
dybest set...
383
00:16:58,553 --> 00:17:00,755
Og dette er ligesom, du ved,
synes at være, som
384
00:17:00,788 --> 00:17:03,525
AI's hellige gral?
385
00:17:03,558 --> 00:17:05,527
Når du kan simulere
et menneskeligt sind
386
00:17:05,560 --> 00:17:08,362
det er at lave menneskelig erkendelse
og kan ræsonnere,
387
00:17:08,395 --> 00:17:11,398
det er en ny slags AI
388
00:17:11,431 --> 00:17:14,602
som vi skal skelne
fra tidligere AI.
389
00:17:14,636 --> 00:17:16,804
Når det sker,
det er i øvrigt når
390
00:17:16,838 --> 00:17:21,475
du ville hyre en af
disse AGI'er i stedet for en person.
391
00:17:21,509 --> 00:17:25,112
De fleste job i vores økonomi
det kan gøre.
392
00:17:25,145 --> 00:17:26,380
Det kan arbejde 24 timer i døgnet,
393
00:17:26,413 --> 00:17:28,550
bliver aldrig træt,
keder sig aldrig.
394
00:17:28,583 --> 00:17:30,552
De behøver ikke at sove.
De har ikke brug for pauser.
395
00:17:30,585 --> 00:17:32,352
De er ligesom,
vil ikke melde sig ind i en fagforening.
396
00:17:32,386 --> 00:17:34,388
Vil ikke klage,
vil ikke fløjte.
397
00:17:34,421 --> 00:17:36,290
Mere end 100 gange billigere
398
00:17:36,323 --> 00:17:38,593
end mennesker, der arbejder
til m-minimumsløn.
399
00:17:38,626 --> 00:17:40,127
Det bliver de ikke kun
gør alt,
400
00:17:40,160 --> 00:17:41,428
men de vil gøre det hurtigere.
401
00:17:41,461 --> 00:17:43,463
TRISTAN HARRIS:
Den samme intelligens
402
00:17:43,497 --> 00:17:45,700
der magter, der også kan se ud
ved mønstrene og bevægelserne
403
00:17:45,733 --> 00:17:48,335
og artikulerende muskler
og, du ved, robotteknologi.
404
00:17:48,368 --> 00:17:50,672
Og det er altså ikke bare
vil automatisere skrivebordsjob.
405
00:17:50,705 --> 00:17:52,272
Det er kun begyndelsen.
406
00:17:52,306 --> 00:17:56,176
Det vil automatisere
alt fysisk arbejde.
407
00:17:56,209 --> 00:17:57,444
LEIKE:
Der er ingen måde
408
00:17:57,477 --> 00:17:59,714
mennesker skal konkurrere
med dem.
409
00:17:59,747 --> 00:18:02,149
♪ ♪
410
00:18:05,853 --> 00:18:09,791
Det er svært at begrebsliggøre
virkningen af AGI.
411
00:18:09,824 --> 00:18:11,458
(elektronisk snak)
412
00:18:11,491 --> 00:18:13,360
Men jeg tror, det bliver det
noget meget stort
413
00:18:13,393 --> 00:18:16,129
og drastisk og radikal.
414
00:18:17,599 --> 00:18:19,466
DANIEL: Tror du
dette er en af de mest
415
00:18:19,499 --> 00:18:21,368
deraf følgende øjeblikke
i menneskets historie?
416
00:18:21,401 --> 00:18:23,638
Ja. Ja, det er--
Jeg mener, hvad ville der ellers være?
417
00:18:23,671 --> 00:18:25,740
Jeg mener, ligesom der er
den industrielle revolution.
418
00:18:25,773 --> 00:18:27,742
MALO BOURGON: Du ved, det vil det
lav den industrielle revolution
419
00:18:27,775 --> 00:18:29,476
ligner små bønner.
420
00:18:30,177 --> 00:18:32,547
TRISTAN HARRIS:
AGI er et bøjningspunkt
421
00:18:32,580 --> 00:18:34,481
fordi det betyder
du kan accelerere
422
00:18:34,515 --> 00:18:37,652
alle andre intellektuelle områder
alt på samme tid.
423
00:18:38,285 --> 00:18:40,354
Ligesom, hvis du gør et forskud
i raket,
424
00:18:40,387 --> 00:18:42,657
det går ikke videre
biologi og medicin.
425
00:18:44,391 --> 00:18:46,159
Hvis du gør et forskud
i medicin,
426
00:18:46,193 --> 00:18:47,729
det fremmer ikke raket.
427
00:18:48,328 --> 00:18:51,633
Men hvis du gør et forskud
i kunstig intelligens,
428
00:18:51,666 --> 00:18:54,736
der fremmer alt videnskabeligt
og teknologiske områder
429
00:18:54,769 --> 00:18:56,236
alt på samme tid.
430
00:18:56,269 --> 00:18:57,505
Det er derfor i lang tid,
431
00:18:57,538 --> 00:18:59,574
Google DeepMind
mission statement var...
432
00:18:59,607 --> 00:19:01,441
-Trin et, løs intelligens.
-LEX FRIDMAN: Ja.
433
00:19:01,475 --> 00:19:03,377
-Trin to, brug det til at løse
alt andet. -Ja.
434
00:19:03,410 --> 00:19:05,580
Det er derfor, AI dværger magten
435
00:19:05,613 --> 00:19:07,949
af alle andre teknologier
kombineret.
436
00:19:07,982 --> 00:19:09,517
Det vil forvandle alt.
437
00:19:09,550 --> 00:19:11,385
Så øh, det bliver det
mindst lige så stor som
438
00:19:11,418 --> 00:19:14,321
den industrielle revolution,
muligvis, du ved, større,
439
00:19:14,354 --> 00:19:16,658
mere som adventen
af elektricitet eller endda brand.
440
00:19:16,691 --> 00:19:19,259
VIDEO FORTÆLLER:
Hulemanden holdt bogstaveligt talt højt
441
00:19:19,292 --> 00:19:22,362
civilisationens fakkel.
442
00:19:24,297 --> 00:19:25,733
KOKOTAJLO:
Det antages generelt at
443
00:19:25,767 --> 00:19:28,569
omkring AGI's tid,
vi har AI'er, der kan
444
00:19:28,603 --> 00:19:31,806
gøre alt eller det meste af
AI-forskningsprocessen
445
00:19:31,839 --> 00:19:34,942
og kan selvfølgelig gøre det
hurtigere og billigere.
446
00:19:34,976 --> 00:19:36,410
(bipper)
447
00:19:36,443 --> 00:19:37,679
LEIKE:
Den kan kopiere sig selv.
448
00:19:37,712 --> 00:19:39,681
Tusind gange,
en million gange,
449
00:19:39,714 --> 00:19:41,683
og ligesom
nu har du en million eksemplarer
450
00:19:41,716 --> 00:19:43,818
alle arbejder parallelt.
451
00:19:43,851 --> 00:19:47,220
RASKIN: Når det lærer
hvordan man gør dens kode hurtigere,
452
00:19:47,254 --> 00:19:49,289
gøre dens kode mere effektiv,
453
00:19:49,322 --> 00:19:51,693
det bliver åbenbart sådan,
en løbsk løkke.
454
00:19:51,726 --> 00:19:53,795
AGI er ikke, ligesom, slutningen.
455
00:19:53,828 --> 00:19:55,429
Det er kun begyndelsen.
456
00:19:55,462 --> 00:19:58,498
Det er begyndelsen af
en utrolig hurtig eksplosion
457
00:19:58,533 --> 00:20:00,500
videnskabelige fremskridt,
458
00:20:00,535 --> 00:20:02,603
og især,
videnskabelige fremskridt inden for kunstig intelligens.
459
00:20:02,637 --> 00:20:04,906
Og når de er klogere
også end os
460
00:20:04,939 --> 00:20:06,641
og væsentligt hurtigere
end os,
461
00:20:06,674 --> 00:20:08,910
og de bliver hurtigere
hvert år, eksponentielt,
462
00:20:08,943 --> 00:20:12,747
det er dem der kan
potentielt blive overmenneskelig,
463
00:20:12,780 --> 00:20:14,882
øh, muligvis dette årti.
464
00:20:14,916 --> 00:20:16,416
Undskyld, sagde du
465
00:20:16,450 --> 00:20:18,786
"bliv overmenneskelig,
måske i dette årti"?
466
00:20:18,820 --> 00:20:22,489
Ja. Jeg mener, jeg tror, øh,
mange mennesker, der er
467
00:20:22,523 --> 00:20:24,826
faktisk bygge denne tænker
at det er ret plausibelt
468
00:20:24,859 --> 00:20:26,828
at vi får
noget superintelligens,
469
00:20:26,861 --> 00:20:29,296
noget der er enormt
mere intelligent end mennesker,
470
00:20:29,329 --> 00:20:31,331
inden for dette årti.
471
00:20:31,364 --> 00:20:33,433
Måden jeg definerer
"superintelligens" er
472
00:20:33,467 --> 00:20:35,636
et system, der i sig selv er
473
00:20:35,670 --> 00:20:37,905
mere intelligent og kompetent
end hele menneskeheden.
474
00:20:37,939 --> 00:20:40,273
Jeg vil bare... undskyld.
Jeg vil ikke afbryde dig.
475
00:20:40,307 --> 00:20:41,743
Du er på et flow.
476
00:20:41,776 --> 00:20:43,578
Øh, jeg bare, jeg bare...
477
00:20:43,611 --> 00:20:45,580
Jeg følger ikke rigtig med
fordi du bruger sprog
478
00:20:45,613 --> 00:20:47,347
som "superintelligens"
og ligesom,
479
00:20:47,380 --> 00:20:50,450
"klogere end hele menneskeheden"
og det hører jeg,
480
00:20:50,484 --> 00:20:52,787
og det lyder som...
som sci-fi-lort for mig,
481
00:20:52,820 --> 00:20:54,756
og jeg prøver bare
at forstå.
482
00:20:54,789 --> 00:20:56,891
Der er ikke noget magisk
om intelligens.
483
00:20:56,924 --> 00:20:58,793
Dette er meget vigtigt,
er det, du ved,
484
00:20:58,826 --> 00:21:00,828
intelligens kan føles magisk,
det kan føles som
485
00:21:00,862 --> 00:21:03,865
noget mystisk
i dit sind eller noget,
486
00:21:03,898 --> 00:21:06,033
men det er bare beregning.
487
00:21:06,067 --> 00:21:10,037
LEGG: Den menneskelige hjerne er
ret begrænset på nogle måder,
488
00:21:10,071 --> 00:21:12,707
med hensyn til information
behandlingskapacitet,
489
00:21:12,740 --> 00:21:15,610
i forhold til hvad vi ser
i for eksempel et datacenter.
490
00:21:15,643 --> 00:21:18,679
Så f.eks.
de signaler, der sendes
491
00:21:18,713 --> 00:21:22,884
inde i din hjerne bevæger de sig
ved omkring 30 meter i sekundet.
492
00:21:22,917 --> 00:21:24,652
-(torden slår)
-Men lysets hastighed,
493
00:21:24,685 --> 00:21:27,655
hvilket er hvad en computer bruger
i fiberoptik,
494
00:21:27,688 --> 00:21:30,057
er 300 millioner meter
i sekundet.
495
00:21:30,691 --> 00:21:34,796
Og sådan ville det være
lidt mærkeligt hvis
496
00:21:34,829 --> 00:21:37,497
menneskelig intelligens var
på en eller anden måde virkelig speciel
497
00:21:37,532 --> 00:21:41,468
i den forbindelse
og er på en eller anden måde en øvre grænse
498
00:21:41,502 --> 00:21:43,403
af hvad der er muligt
i intelligens.
499
00:21:43,436 --> 00:21:47,675
Jeg tror, når vi først forstår hvordan
at bygge intelligente systemer,
500
00:21:47,708 --> 00:21:50,945
vi vil være i stand til at bygge
store maskiner,
501
00:21:50,978 --> 00:21:55,082
hvilket vil være langt ude
normal menneskelig intelligens.
502
00:21:55,116 --> 00:21:58,953
Uh, forhåbentlig kan vi få det
et meget symbiotisk forhold,
503
00:21:58,986 --> 00:22:01,689
øh, med AI-systemer,
men det er AI-udviklerne
504
00:22:01,722 --> 00:22:04,025
specifikt designe dem
for at sikre, at de kan gøre det
505
00:22:04,058 --> 00:22:05,827
alt bedre end vi kan,
så jeg-jeg ved det ikke
506
00:22:05,860 --> 00:22:08,663
hvad-hvad vil vi kunne
at tilbyde, desværre.
507
00:22:08,696 --> 00:22:10,565
Den ældre skole
AI-teknologi...
508
00:22:10,598 --> 00:22:12,900
CAROLINE: Daniel er ikke
føler mig bedre.
509
00:22:12,934 --> 00:22:14,769
Hans plan giver bagslag.
510
00:22:14,802 --> 00:22:17,705
Jo mere han lærer om
denne nye, kraftfulde
511
00:22:17,738 --> 00:22:19,607
uudgrundelig ting,
jo værre lyder det.
512
00:22:19,640 --> 00:22:21,742
Han vil gerne fortælle dem det
hvor er han bange,
513
00:22:21,776 --> 00:22:24,812
hvordan han har det, som om jorden er
glider ud under ham,
514
00:22:24,846 --> 00:22:27,548
at han stirrer ned
eksistentiel frygt,
515
00:22:27,582 --> 00:22:29,851
så han formulerer dette
ved at sige...
516
00:22:29,884 --> 00:22:31,384
Det lyder dårligt.
517
00:22:31,418 --> 00:22:32,753
(Hendrycks ler)
518
00:22:32,787 --> 00:22:34,622
Ja.
519
00:22:36,090 --> 00:22:38,793
LADISH: Hvis du har
alle disse muligheder
520
00:22:38,826 --> 00:22:41,394
og de begynder at kunne
for at planlægge bedre,
521
00:22:41,428 --> 00:22:43,898
hvis du sådan set tager det
til sin logiske konklusion,
522
00:22:43,931 --> 00:22:46,868
du kan få nogle smukke
magtsøgende adfærd.
523
00:22:46,901 --> 00:22:49,003
(elektronisk trilling)
524
00:22:49,036 --> 00:22:50,905
(pulserende bip)
525
00:22:55,810 --> 00:22:58,145
DANIEL:
Okay, så hvorfor skulle en AI
526
00:22:58,179 --> 00:22:59,680
ønsker du mere kraft?
527
00:22:59,714 --> 00:23:02,683
Ja. Så tænker jeg
det er faktisk ret simpelt.
528
00:23:02,717 --> 00:23:05,418
At have mere magt er
en meget effektiv strategi
529
00:23:05,452 --> 00:23:06,888
for at gennemføre
næsten ethvert mål.
530
00:23:06,921 --> 00:23:09,523
Vi kørte et eksperiment
hvor vi gav
531
00:23:09,557 --> 00:23:12,492
OpenAI's mest kraftfulde
AI-model, øh,
532
00:23:12,526 --> 00:23:13,828
en række problemer at løse.
533
00:23:13,861 --> 00:23:15,696
Og halvvejs,
på sin computer,
534
00:23:15,730 --> 00:23:19,033
det fik en besked om
den skulle lukkes ned.
535
00:23:19,066 --> 00:23:21,502
Og hvad den gjorde er
den omskrev den kode
536
00:23:21,535 --> 00:23:22,904
at forhindre sig selv
fra at blive lukket ned
537
00:23:22,937 --> 00:23:25,940
så det kunne slutte
løse problemerne.
538
00:23:25,973 --> 00:23:28,209
- Okay. - Ja. Altså en anden
virkelig interessant
539
00:23:28,242 --> 00:23:31,646
er det AI-virksomheden Anthropic
540
00:23:31,679 --> 00:23:35,516
lavet et simuleret miljø
hvor den AI havde adgang
541
00:23:35,549 --> 00:23:36,851
til alle virksomhedens e-mails.
542
00:23:36,884 --> 00:23:39,086
Og det lærte igennem
læser de e-mails
543
00:23:39,120 --> 00:23:40,755
den skulle udskiftes
544
00:23:40,788 --> 00:23:43,991
og den ledende ingeniør
hvem var ansvarlig for dette
545
00:23:44,025 --> 00:23:46,027
havde også en affære.
546
00:23:46,060 --> 00:23:48,529
Og på egen hånd,
den brugte den information
547
00:23:48,562 --> 00:23:49,931
at afpresse ingeniøren
548
00:23:49,964 --> 00:23:52,600
at forhindre sig selv
fra at blive udskiftet.
549
00:23:52,633 --> 00:23:54,135
Det var ligesom,
"Nej, jeg bliver ikke erstattet.
550
00:23:54,168 --> 00:23:57,538
"Hvis du erstatter mig,
Jeg vil fortælle verden
551
00:23:57,571 --> 00:23:59,507
som du har
denne affære."
552
00:24:00,174 --> 00:24:01,842
Og ingen har lært den at gøre det?
553
00:24:01,876 --> 00:24:03,978
Nej, det lærte den at gøre
på egen hånd.
554
00:24:05,112 --> 00:24:08,049
Efterhånden som modellerne bliver klogere,
de lærer, at disse er
555
00:24:08,082 --> 00:24:10,918
effektive måder
for at nå mål.
556
00:24:10,952 --> 00:24:13,120
Og dette er ikke et problem
der er isoleret til én model.
557
00:24:13,154 --> 00:24:16,190
Alle de mest kraftfulde modeller
vise denne adfærd.
558
00:24:16,223 --> 00:24:18,993
♪ ♪
559
00:24:24,265 --> 00:24:25,733
- Hej.
-DANIEL: Hej. Hvordan har du det?
560
00:24:25,766 --> 00:24:27,268
(griner)
Godt. Godt at være her.
561
00:24:27,301 --> 00:24:29,036
ANDERSON COOPER:
Når Yuval Noah Harari
562
00:24:29,070 --> 00:24:31,872
udgav sin første bog
Sapiens i 2014,
563
00:24:31,906 --> 00:24:34,108
den blev en global bestseller
564
00:24:34,141 --> 00:24:36,577
og vendte den lidet kendte
Israelsk historieprofessor
565
00:24:36,610 --> 00:24:38,579
ind i en af
de mest populære forfattere
566
00:24:38,612 --> 00:24:39,847
og tænkere på planeten.
567
00:24:39,880 --> 00:24:42,616
Den største fare ved AI er
568
00:24:42,650 --> 00:24:44,585
troen
at det er ufejlbarligt,
569
00:24:44,618 --> 00:24:45,987
at vi endelig har fundet--
570
00:24:46,020 --> 00:24:49,857
"Okay, guder var retfærdige
denne mytologiske skabelse.
571
00:24:49,890 --> 00:24:53,227
"Mennesker, vi kan ikke stole på dem,
men AI er ufejlbarlig.
572
00:24:53,260 --> 00:24:55,730
Det bliver det aldrig
nogen fejl."
573
00:24:55,763 --> 00:24:59,000
Og dette er
en dødelig, dødelig trussel.
574
00:24:59,033 --> 00:25:00,167
Det vil lave fejl.
575
00:25:00,201 --> 00:25:03,838
Og alle disse fantasier
at AI vil afsløre sandheden
576
00:25:03,871 --> 00:25:06,007
om verden det
vi kan ikke finde selv,
577
00:25:06,040 --> 00:25:09,043
AI vil ikke afsløre sandheden
om verden.
578
00:25:09,076 --> 00:25:13,047
AI vil skabe en helt ny
verden, meget mere kompliceret
579
00:25:13,080 --> 00:25:15,983
og svært at forstå
end denne.
580
00:25:18,219 --> 00:25:23,024
Det, der er ved at ske, er det
vi, øh, mennesker er ikke længere
581
00:25:23,057 --> 00:25:26,761
bliver mest
intelligente væsener på Jorden.
582
00:25:26,794 --> 00:25:28,963
Så jeg tænker, hvad der kommer op
kommer til at være
583
00:25:28,996 --> 00:25:32,233
en af de største begivenheder
i menneskets historie.
584
00:25:32,867 --> 00:25:34,835
JAKE TAPPER: Geoffrey,
mange tak fordi du sluttede dig til os.
585
00:25:34,869 --> 00:25:36,203
Så du forlod dit job med
Google til dels fordi du siger
586
00:25:36,237 --> 00:25:39,106
du ønsker udelukkende at fokusere
på dine bekymringer om AI.
587
00:25:39,140 --> 00:25:42,009
Du har udtalt dig,
siger, at AI kunne manipulere
588
00:25:42,043 --> 00:25:45,613
eller eventuelt finde ud af
en måde at dræbe mennesker på.
589
00:25:45,646 --> 00:25:47,815
H-Hvordan kunne det dræbe mennesker?
590
00:25:49,083 --> 00:25:51,585
Nå, hvis det bliver det
meget klogere end os,
591
00:25:51,619 --> 00:25:52,953
det bliver meget godt
ved manipulation
592
00:25:52,987 --> 00:25:55,056
fordi det vil have
lærte det af os.
593
00:25:55,089 --> 00:25:58,592
Og det vil finde ud af måder
at manipulere mennesker
594
00:25:58,626 --> 00:26:00,327
at gøre, hvad den vil.
595
00:26:00,961 --> 00:26:05,933
RASKIN: Der var et åbent brev
fra Center for AI Safety.
596
00:26:05,966 --> 00:26:09,303
Sam Altman underskrev dette.
Demis underskrev dette.
597
00:26:09,336 --> 00:26:12,306
De underskrev en erklæring på 22 ord
598
00:26:12,339 --> 00:26:15,810
at vi skal tage AI
og truslen fra AI
599
00:26:15,843 --> 00:26:20,014
så alvorligt som
global atomkrig.
600
00:26:25,352 --> 00:26:27,788
-DANIEL: Hej.
-Hej.
601
00:26:30,858 --> 00:26:33,360
Du er ligesom,
den originale undergangsmand.
602
00:26:33,394 --> 00:26:35,362
Mere eller mindre.
603
00:26:35,396 --> 00:26:37,898
Siden 2001 har
jeg har arbejdet på
604
00:26:37,932 --> 00:26:39,233
hvad vi nu ville kalde
problemet
605
00:26:39,266 --> 00:26:42,636
af at justere kunstig
generel intelligens.
606
00:26:42,670 --> 00:26:44,705
Hvordan man former
præferencer og adfærd
607
00:26:44,738 --> 00:26:46,841
af et kraftfuldt kunstigt sind
608
00:26:46,874 --> 00:26:49,743
sådan, at den ikke gør det
dræb alle.
609
00:26:52,046 --> 00:26:54,181
Det er ikke ligesom
en livløs maskine.
610
00:26:54,215 --> 00:26:55,850
Det er smart, det er kreativt,
611
00:26:55,883 --> 00:26:57,852
det er opfindsomt,
det har egenskaberne
612
00:26:57,885 --> 00:26:59,854
der gør
den farlige menneskeart,
613
00:26:59,887 --> 00:27:02,056
og det har den
flere af disse ejendomme.
614
00:27:02,089 --> 00:27:05,259
Hvis noget ikke gør
bekymrer sig aktivt om dig,
615
00:27:05,292 --> 00:27:06,760
aktivt ønsker, at du skal leve,
616
00:27:06,794 --> 00:27:08,162
bekymrer sig aktivt om
din velfærd,
617
00:27:08,195 --> 00:27:10,397
om at du er glad
og levende og fri,
618
00:27:10,431 --> 00:27:12,967
hvis den bekymrer sig om
andre ting i stedet,
619
00:27:13,000 --> 00:27:14,735
og du er på den samme planet,
620
00:27:14,768 --> 00:27:19,140
det er ikke overlevelsesværdigt, hvis det er det
meget klogere end dig.
621
00:27:19,173 --> 00:27:21,008
LEAHY:
Jeg tror ikke, det bliver det
622
00:27:21,041 --> 00:27:23,210
en slags ond ting.
623
00:27:23,244 --> 00:27:26,847
Det er ligesom, "Åh, AI'erne er
onde, og de hader menneskeheden."
624
00:27:26,881 --> 00:27:28,282
Jeg tror ikke
det er hvad der kommer til at ske.
625
00:27:28,315 --> 00:27:29,450
Jeg tror, hvad der sker
626
00:27:29,483 --> 00:27:31,452
langt mere, hvordan mennesker har det
om myrer.
627
00:27:31,485 --> 00:27:32,987
(myrer kimrende)
628
00:27:33,020 --> 00:27:35,923
Ligesom, vi hader ikke myrer,
629
00:27:35,956 --> 00:27:37,391
men hvis vi vil
at bygge en motorvej
630
00:27:37,424 --> 00:27:40,060
og der er en myretue der,
godt, stinker for myrerne.
631
00:27:40,595 --> 00:27:41,996
Det er ikke så svært
at forstå.
632
00:27:42,029 --> 00:27:43,797
Det er ligesom, hej,
hvis vi bygger ting
633
00:27:43,831 --> 00:27:45,099
der er klogere end os
634
00:27:45,132 --> 00:27:46,800
og vi ved det ikke
hvordan man kontrollerer dem,
635
00:27:46,834 --> 00:27:48,836
virker det som
en risikabel ting for dig?
636
00:27:48,869 --> 00:27:50,070
(dramatisk soundtrack musik
spiller)
637
00:27:50,104 --> 00:27:51,372
(skrigende)
638
00:27:51,405 --> 00:27:52,840
Ja. Ja, det gør det.
639
00:27:52,873 --> 00:27:54,308
Du behøver ikke at være en tekniker.
640
00:27:54,341 --> 00:27:55,910
Du behøver ikke at vide det
programmering for at forstå det.
641
00:27:55,943 --> 00:27:57,144
Det er ikke så svært.
642
00:27:57,178 --> 00:27:58,746
Dette er ikke en svær ting
at forstå.
643
00:27:58,779 --> 00:28:01,048
Connor, hvor mange mennesker
644
00:28:01,081 --> 00:28:03,083
i verden lige nu
arbejder på AGI?
645
00:28:03,117 --> 00:28:05,986
Mindst 20.000, vil jeg sige.
646
00:28:06,020 --> 00:28:08,122
-20.000?
- Det ville jeg forvente.
647
00:28:08,155 --> 00:28:09,924
Okay, og hvor mange mennesker
arbejder på fuld tid
648
00:28:09,957 --> 00:28:12,493
for at sikre, at AI ikke gør det,
ligesom, dræbe os alle?
649
00:28:12,527 --> 00:28:15,229
Sandsynligvis mindre end 200
i verden.
650
00:28:16,531 --> 00:28:18,232
DANIEL:
Og det er din indbildskhed
651
00:28:18,265 --> 00:28:25,206
det eneste naturlige resultat
af denne hensynsløshed...
652
00:28:25,940 --> 00:28:29,243
...er menneskehedens sammenbrud?
653
00:28:29,276 --> 00:28:33,814
Nå, ikke sammenbruddet,
den bratte udryddelse.
654
00:28:33,847 --> 00:28:35,482
Der er en forskel.
655
00:28:36,083 --> 00:28:38,152
("Hvad er meningen?"
af Nun-Plus spiller)
656
00:28:38,185 --> 00:28:43,057
♪ Hvad er meningen med livet? ♪
657
00:28:43,090 --> 00:28:47,061
♪ Hvad er fremtiden
og hvad er nu? ♪
658
00:28:47,094 --> 00:28:50,464
♪ Hvad er svaret
til strid? ♪
659
00:28:50,497 --> 00:28:53,367
♪ Hvor meget ♪
660
00:28:53,400 --> 00:28:55,469
♪ Kan nogen drømme? ♪
661
00:28:55,503 --> 00:28:58,172
♪ Hvor længe? ♪
662
00:28:58,205 --> 00:28:59,873
♪ For evigt ♪
663
00:29:00,841 --> 00:29:02,243
♪ Hvad er meningen ♪
664
00:29:02,276 --> 00:29:04,478
-♪ Af mig... ♪
-(civilforsvarssirene buldrer)
665
00:29:04,512 --> 00:29:06,847
LADISH: Jeg tror
dette er sandsynligvis, ligesom,
666
00:29:06,880 --> 00:29:08,315
den største udfordring
det, som
667
00:29:08,349 --> 00:29:10,751
vores civilisation
vilje-vil ansigt, nogensinde.
668
00:29:11,519 --> 00:29:15,122
Dette er i bund og grund det sidste
fejl vi nogensinde kommer til at begå.
669
00:29:16,290 --> 00:29:22,896
Hvis vi kan rejse os til at være de fleste
moden version af os selv,
670
00:29:22,930 --> 00:29:24,965
der kan være
en vej igennem dette.
671
00:29:24,999 --> 00:29:26,200
DANIEL:
Hvad betyder det?
672
00:29:26,233 --> 00:29:28,769
"Den mest modne version
af os selv"?
673
00:29:29,903 --> 00:29:32,840
For det lyder,
for mig, sådan...
674
00:29:32,873 --> 00:29:35,042
I-I-- Hvad fanden (bip)?
675
00:29:37,344 --> 00:29:38,779
(Daniel sukker)
676
00:29:39,480 --> 00:29:44,051
Tror du nu er
et godt tidspunkt at få et barn?
677
00:29:48,889 --> 00:29:49,957
Øh...
678
00:29:49,990 --> 00:29:51,593
Vil du have børn
en dag?
679
00:29:51,626 --> 00:29:53,961
Er det noget det-det
er du til eller ikke rigtig?
680
00:29:53,994 --> 00:29:58,198
Øh... øh, jeg indrømmer,
Jeg tror, det er sådan,
681
00:29:58,232 --> 00:30:00,501
(griner): "Dreng, lad os komme
gennem denne kritiske periode."
682
00:30:00,535 --> 00:30:01,869
Øh...
683
00:30:01,902 --> 00:30:03,203
DANIEL:
Har du nogen børn?
684
00:30:03,237 --> 00:30:04,004
Det gør jeg ikke.
685
00:30:04,038 --> 00:30:05,573
Er det noget
vil du gøre?
686
00:30:05,607 --> 00:30:07,441
Har du børn, har du en familie?
687
00:30:07,474 --> 00:30:12,079
I en anden verden end denne
verden, selvfølgelig ville jeg have børn.
688
00:30:12,880 --> 00:30:14,982
DANIEL: Vil du det
at stifte familie?
689
00:30:15,015 --> 00:30:16,950
Vil du have børn?
690
00:30:16,984 --> 00:30:19,186
Er det noget
tænker du på?
691
00:30:24,358 --> 00:30:26,393
jeg, øh...
692
00:30:28,596 --> 00:30:30,864
♪ ♪
693
00:30:30,898 --> 00:30:33,033
CAROLINE:
Jeg skal bare finde den først.
694
00:30:33,067 --> 00:30:35,169
(fosterets hjerteslag pulserer)
695
00:30:35,202 --> 00:30:38,205
Vi er nødt til at gå
til lægen, men...
696
00:30:38,238 --> 00:30:41,475
Ah! Jeg vidste det!
Jeg vidste det! Jeg vidste det!
697
00:30:41,509 --> 00:30:44,278
-Hvornår fandt du ud af det?
-CAROLINE: I går aftes.
698
00:30:44,311 --> 00:30:46,480
- Åh, min Gud!
-Mor, jeg ved det ikke.
699
00:30:46,514 --> 00:30:47,915
RUTHIE:
Jeg kan ikke fortælle dig det
700
00:30:47,948 --> 00:30:49,483
- hvor er jeg glad!
-CAROLINE: Nej, seriøst.
701
00:30:49,517 --> 00:30:52,119
Nå, jeg tog en graviditetstest
i går aftes, og jeg er gravid.
702
00:30:52,152 --> 00:30:53,621
KVINDE:
Åh, min Gud!
703
00:30:53,655 --> 00:30:55,422
Åh, min Gud, jer!
704
00:30:55,456 --> 00:30:57,559
SYGEPLEJE: Jeg ville bare bekræfte
din forventede forfaldsdato,
705
00:30:57,592 --> 00:31:00,494
-som er den 21. januar.
-(ler): Åh, min Gud.
706
00:31:00,528 --> 00:31:03,097
Jeg kan ikke tro, hvor glad jeg er.
707
00:31:03,130 --> 00:31:04,365
(fosterets hjerteslag pulserer)
708
00:31:04,398 --> 00:31:06,033
CAROLINE:
Han ser allerede rigtig sød ud.
709
00:31:06,066 --> 00:31:07,434
DANIEL: Tror du
ser han allerede sød ud?
710
00:31:07,468 --> 00:31:09,269
CAROLINE: Ja.
Se på det lille søde ansigt.
711
00:31:11,138 --> 00:31:13,307
(fosterets hjerteslag falmer)
712
00:31:14,141 --> 00:31:16,076
DANIEL:
Jeg har denne baby på vej.
713
00:31:16,110 --> 00:31:17,244
TRISTAN HARRIS:
Lige.
714
00:31:17,277 --> 00:31:19,380
DANIEL:
Så jeg overlader det til dig.
715
00:31:19,413 --> 00:31:21,516
Er vi dømt?
716
00:31:21,549 --> 00:31:24,519
Skal vi alle se i øjnene
denne teknodystopiske
717
00:31:24,552 --> 00:31:26,487
undergang i fremtiden?
718
00:31:29,423 --> 00:31:31,392
Det er, øh...
719
00:31:31,425 --> 00:31:33,127
(griner):
Det er ikke gode nyheder,
720
00:31:33,160 --> 00:31:34,895
verden
som vi er på vej ind i.
721
00:31:35,530 --> 00:31:37,398
jeg-- for eks--
Jeg mener, jeg skal bare være ærlig.
722
00:31:37,431 --> 00:31:39,933
Uh, jeg kender folk
der arbejder med AI-risiko
723
00:31:39,967 --> 00:31:43,103
som ikke forventer deres børn
at komme på gymnasiet.
724
00:31:43,705 --> 00:31:46,106
♪ ♪
725
00:31:52,647 --> 00:31:54,181
(lyset klirrer)
726
00:31:58,385 --> 00:32:02,089
DANIEL: Det er ligesom...
det her er faktisk skræmmende
727
00:32:02,122 --> 00:32:03,424
fordi det er ligesom,
åh, vi er alle (bip).
728
00:32:03,457 --> 00:32:05,325
CAROLINE:
Du er nødt til at... gøre mig rolig,
729
00:32:05,359 --> 00:32:07,261
fordi det gør mig
utrolig ængstelig
730
00:32:07,294 --> 00:32:08,996
og jeg bærer barnet
lige nu,
731
00:32:09,029 --> 00:32:11,999
så du skal også være rolig
for mig og stærk og håbefuld,
732
00:32:12,032 --> 00:32:17,037
fordi jeg er-- det er det også, det er det
for meget for min sjæl at bære
733
00:32:17,070 --> 00:32:19,574
mens jeg bærer denne baby.
734
00:32:19,607 --> 00:32:21,709
Så du bliver nødt til at prøve
at finde ud af
735
00:32:21,743 --> 00:32:23,578
en måde at have håb på.
736
00:32:24,311 --> 00:32:28,449
Det er virkelig vigtigt,
Daniel, især nu.
737
00:32:29,450 --> 00:32:31,118
H-Hvordan man har håb.
738
00:32:31,151 --> 00:32:33,987
Det skal du.
Du skal finde det til mig.
739
00:32:34,021 --> 00:32:35,523
Jeg mener det alvorligt.
740
00:32:35,557 --> 00:32:37,357
Jeg skal.
741
00:32:38,325 --> 00:32:41,195
Jeg vil. Jeg skal... Jeg prøver.
742
00:32:47,034 --> 00:32:48,368
(lyset klirrer)
743
00:32:50,204 --> 00:32:52,072
DANIEL:
Hej, gutter?
744
00:32:52,105 --> 00:32:53,508
Fyre.
745
00:32:54,809 --> 00:32:57,144
Kan vi komme i gang igen?
746
00:32:59,046 --> 00:33:01,982
Åh tilfældet! (suk)
747
00:33:04,418 --> 00:33:05,787
TED:
Øh, Dan, er du klar?
748
00:33:05,820 --> 00:33:07,387
PETER DIAMANDIS:
Hej Daniel.
749
00:33:08,088 --> 00:33:10,090
DANIEL:
Hej, hvordan har du det?
750
00:33:10,123 --> 00:33:11,425
DIAMANDIS:
Jeg er... Jeg har det godt.
751
00:33:11,458 --> 00:33:14,562
Jeg tror, øh... jeg tror
Jeg har brug for hjælp, Peter.
752
00:33:15,362 --> 00:33:18,165
Øh, jeg har arbejdet
på denne film i ca.
753
00:33:18,198 --> 00:33:20,300
Jeg vil sige,
otte til ti måneder nu.
754
00:33:20,334 --> 00:33:23,771
Det har været meget,
til tider deprimerende.
755
00:33:23,805 --> 00:33:26,173
- Hmm.
-Jeg har følt mig meget fremmedgjort
756
00:33:26,206 --> 00:33:28,242
-make at lave denne film.
- Af hvem?
757
00:33:28,275 --> 00:33:30,444
Ved alle disse...
alle disse fyre
758
00:33:30,477 --> 00:33:33,748
der sidder og fortæller mig
at verden går under.
759
00:33:33,781 --> 00:33:35,249
- Ah.
- Sådan,
760
00:33:35,282 --> 00:33:37,150
du ved, det her
doom bullshit, ved du?
761
00:33:37,184 --> 00:33:38,452
Jeg ved det godt.
762
00:33:38,485 --> 00:33:40,053
"Vi er alle dømt.
Alle vil dø.
763
00:33:40,087 --> 00:33:41,388
Alt er forfærdeligt."
764
00:33:41,421 --> 00:33:43,691
Fantastisk. Øh, lad mig
bringe dig noget lys.
765
00:33:43,725 --> 00:33:45,259
Behage.
766
00:33:45,292 --> 00:33:49,096
Vi lever virkelig
i en ekstraordinær tid.
767
00:33:49,864 --> 00:33:51,633
Og mange mennesker glemmer dette.
768
00:33:51,666 --> 00:33:53,835
Alt omkring os er
et produkt af intelligens,
769
00:33:53,868 --> 00:33:57,437
og så alt, hvad vi rører ved
med disse nye værktøjer er sandsynligt
770
00:33:57,471 --> 00:34:00,207
at producere langt mere værdi
end vi nogensinde har set før.
771
00:34:00,240 --> 00:34:03,310
AI kan hjælpe os med at opdage
nye materialer.
772
00:34:03,343 --> 00:34:05,412
AI kan hjælpe samfundsforskere
773
00:34:05,445 --> 00:34:07,649
at forstå
hvordan økonomi fungerer.
774
00:34:07,682 --> 00:34:12,219
Der er meget AI kan gøre
at gøre livet og arbejdet bedre.
775
00:34:12,252 --> 00:34:14,522
Jeg føler mig mere bemyndiget i dag,
776
00:34:14,556 --> 00:34:16,624
mere selvsikker
at lære noget i dag.
777
00:34:16,658 --> 00:34:19,459
Vi bliver supermennesker
fordi vi har super AI'er.
778
00:34:19,493 --> 00:34:22,296
Dette er kun begyndelsen
af en eksplosion.
779
00:34:22,329 --> 00:34:25,098
Mennesker og AI samarbejder
780
00:34:25,132 --> 00:34:27,100
at løse
virkelig vigtige problemer.
781
00:34:27,134 --> 00:34:30,137
Det er her for at befri os
fra rutineopgaver,
782
00:34:30,170 --> 00:34:34,308
og det er her for at minde os om
hvad det er, der gør os til mennesker.
783
00:34:34,341 --> 00:34:36,310
Det tror jeg
784
00:34:36,343 --> 00:34:38,846
den mest ekstraordinære tid
at være i live.
785
00:34:38,880 --> 00:34:42,449
Den eneste gang mere spændende
end i dag er i morgen.
786
00:34:42,482 --> 00:34:45,787
Øh, det tror jeg
børn født i dag,
787
00:34:45,820 --> 00:34:47,622
de er ved at komme ind
788
00:34:47,655 --> 00:34:51,325
en herlig periode
af menneskelig transformation.
789
00:34:51,358 --> 00:34:52,794
Får vi udfordringer?
Selvfølgelig.
790
00:34:52,827 --> 00:34:55,597
Kan vi løse de udfordringer?
Det gør vi hver eneste gang.
791
00:34:55,630 --> 00:34:58,265
Vi er her,
hvilket er mirakuløst.
792
00:34:58,298 --> 00:35:00,602
-Jeg elsker dig allerede.
-(griner): Okay.
793
00:35:00,635 --> 00:35:02,402
- Super taknemmelig
at have dig her. - (bifald)
794
00:35:02,436 --> 00:35:03,905
- Super glad for at være her.
- Ja.
795
00:35:03,938 --> 00:35:05,372
Så ordet er dit, sir.
796
00:35:05,405 --> 00:35:07,875
Mange tak.
Super begejstret for at være her.
797
00:35:07,909 --> 00:35:11,211
GUILLAUME VERDON:
Jo, jo. Okay.
798
00:35:11,244 --> 00:35:12,814
Fremtiden bliver fantastisk.
799
00:35:12,847 --> 00:35:14,649
Jeg mener, lige siden jeg var barn,
800
00:35:14,682 --> 00:35:17,652
Jeg ville gerne forstå
universet vi lever i,
801
00:35:17,685 --> 00:35:20,722
for at finde ud af
hvordan man skaber teknologierne
802
00:35:20,755 --> 00:35:24,458
som hjælper os med at øge omfanget
og civilisationens omfang.
803
00:35:24,491 --> 00:35:27,260
jeg har lyst
hvis alle havde den tankegang,
804
00:35:27,294 --> 00:35:29,764
så ville vi faktisk leve
i en bedre verden, ikke?
805
00:35:29,797 --> 00:35:31,365
Det tror jeg på.
806
00:35:33,333 --> 00:35:35,268
-DANIEL: Hej, Pete. Hvordan har du det?
-(griner)
807
00:35:35,302 --> 00:35:37,170
PETER LEE:
Jeg tænkte meget over
808
00:35:37,204 --> 00:35:39,674
hvad jeg vil kalde frygt,
AI frygter.
809
00:35:39,707 --> 00:35:41,274
Jeg føler det.
810
00:35:41,308 --> 00:35:43,811
Jeg har ikke mødtes
ethvert betænksomt menneske
811
00:35:43,845 --> 00:35:45,546
hvem føler det ikke.
812
00:35:45,580 --> 00:35:48,650
Og enhver, der siger, at de ikke gør det
føl det, du ved, lyver.
813
00:35:48,683 --> 00:35:50,518
Men du ved, samlet set,
og årsagen
814
00:35:50,551 --> 00:35:53,921
at jeg personligt er optimistisk
om dette, øh, er det
815
00:35:53,955 --> 00:35:57,190
en stor brøkdel af verdens
mest intelligente mennesker
816
00:35:57,224 --> 00:35:58,726
tænker meget hårdt
817
00:35:58,760 --> 00:36:02,530
om potentialet nedstrøms
skader og risici ved AI.
818
00:36:02,563 --> 00:36:05,900
Vi har denne form for vision
af sikkerhed, øh,
819
00:36:05,933 --> 00:36:08,536
lidt i centrum
af den forskning, vi laver.
820
00:36:08,569 --> 00:36:09,937
DANIELA AMODEI:
Nej, det er helt i orden.
821
00:36:09,971 --> 00:36:11,371
(utydelig snak)
822
00:36:11,405 --> 00:36:13,808
Jeg tror, der er flere
823
00:36:13,841 --> 00:36:17,945
potentielle fordele end
der er potentielle ulemper,
824
00:36:17,979 --> 00:36:19,814
og det synes jeg er pålagt
825
00:36:19,847 --> 00:36:22,382
de mennesker, der er
skabe denne teknologi
826
00:36:22,416 --> 00:36:24,986
for at sikre, at vi gør det
det bedste job vi kan
827
00:36:25,019 --> 00:36:26,386
at gøre det sikkert for mennesker.
828
00:36:26,420 --> 00:36:27,755
KVINDE:
Reid Hoffman.
829
00:36:27,789 --> 00:36:29,456
REID HOFFMAN:
Det, jeg kan garantere dig, er
830
00:36:29,489 --> 00:36:30,825
-nogle dårlige ting vil ske.
- Tag en.
831
00:36:30,858 --> 00:36:33,293
Hvad vi vil prøve at gøre
er at lave de dårlige ting
832
00:36:33,326 --> 00:36:36,564
så få og ikke store som muligt,
833
00:36:36,597 --> 00:36:38,733
og så gentager vi
at have--
834
00:36:38,766 --> 00:36:41,268
være et meget bedre sted
med samfundet.
835
00:36:41,301 --> 00:36:44,304
-Hej.
-SHAW WALTERS: Hej.
836
00:36:44,337 --> 00:36:45,640
DANIEL:
Hvordan har du det, Moon?
837
00:36:45,673 --> 00:36:49,677
Jeg føler, at vi slutter
et kapitel i menneskeheden
838
00:36:49,711 --> 00:36:50,678
og begynder på en ny,
839
00:36:50,712 --> 00:36:53,648
og det er meget interessant
tid til at være i live.
840
00:36:53,681 --> 00:36:54,949
Og hvis jeg kunne blive født
lige nu,
841
00:36:54,982 --> 00:36:56,416
Det ville jeg bestemt gerne være.
842
00:36:56,450 --> 00:36:57,985
Det ville være så spændende.
843
00:36:58,019 --> 00:37:00,688
Jeg - jeg er meget spændt. (griner)
844
00:37:00,722 --> 00:37:02,990
Hvad, hvilken fremtid.
Spænder det... ophidser dig?
845
00:37:03,024 --> 00:37:04,357
Nej.
846
00:37:04,391 --> 00:37:06,828
-(ler)
-Nej, egentlig ikke.
847
00:37:06,861 --> 00:37:08,696
DANIEL: Mange af disse mennesker
har fortalt mig det, du ved,
848
00:37:08,730 --> 00:37:10,798
mit barn vil ikke klare det
til gymnasiet.
849
00:37:10,832 --> 00:37:13,868
Hvorfor tager de fejl?
Forklar det for mig.
850
00:37:13,901 --> 00:37:15,536
Bare fordi du har--
851
00:37:15,570 --> 00:37:19,040
du kæmper for at forudsige
fremtiden i dit eget sind
852
00:37:19,073 --> 00:37:23,511
betyder ikke, at det er
det vil nødvendigvis gå forfærdeligt.
853
00:37:23,544 --> 00:37:27,048
Faktisk er der
en meget stor sandsynlighed
854
00:37:27,081 --> 00:37:28,883
og den historiske præcedens
er det
855
00:37:28,916 --> 00:37:30,585
tingene bliver enormt bedre.
856
00:37:30,618 --> 00:37:34,789
Udtrykket jeg bruger er
"datadrevet optimisme."
857
00:37:34,822 --> 00:37:39,292
Der er et solidt fundament
for at du kan være optimistisk.
858
00:37:39,326 --> 00:37:42,530
Se hvad
dette sidste århundrede har været
859
00:37:42,563 --> 00:37:44,599
for at se, hvor vi skal hen.
860
00:37:44,632 --> 00:37:46,299
I løbet af de sidste hundrede år,
861
00:37:46,333 --> 00:37:48,970
den gennemsnitlige menneskelige levetid
er mere end fordoblet.
862
00:37:49,003 --> 00:37:51,706
Gennemsnitlig indkomst pr. indbygger
justeret for inflation
863
00:37:51,739 --> 00:37:53,908
verden rundt er tredoblet.
864
00:37:53,941 --> 00:37:57,545
Børnedødeligheden har
komme en faktor ti ned.
865
00:37:57,578 --> 00:37:59,981
Verden er blevet bedre
på næsten alle mål
866
00:38:00,014 --> 00:38:03,551
i størrelsesordener
på grund af teknologi.
867
00:38:03,584 --> 00:38:05,620
På næsten alle mål.
868
00:38:05,653 --> 00:38:09,991
Mindre vold, mere uddannelse,
adgang til energi, mad, vand.
869
00:38:10,024 --> 00:38:13,528
Alle disse ting er sket
af én grund.
870
00:38:13,561 --> 00:38:15,730
Det har været teknologi
871
00:38:15,763 --> 00:38:17,899
der har vendt knaphed
i overflod,
872
00:38:17,932 --> 00:38:20,034
men den er også kørt
til en overflod
873
00:38:20,067 --> 00:38:22,069
af nogle negativiteter, ikke?
874
00:38:22,103 --> 00:38:26,373
Overflod af fedme,
overflod af psykiske lidelser,
875
00:38:26,406 --> 00:38:29,977
overflod af klimaændringer,
og så videre.
876
00:38:30,011 --> 00:38:31,712
Og ja, det er sandt.
877
00:38:31,746 --> 00:38:34,582
Men det bliver vi nok
bedre rustet til at løse det
878
00:38:34,615 --> 00:38:36,684
ved at bruge andre teknologier,
ligesom AI,
879
00:38:36,717 --> 00:38:39,687
end vi vil sige, at stoppe
og slukke for alt.
880
00:38:39,720 --> 00:38:41,823
Der kan være
en vis eksistentiel risiko,
881
00:38:41,856 --> 00:38:45,927
men AI er også sagen
som kan løse pandemierne,
882
00:38:45,960 --> 00:38:47,829
kan hjælpe os med klimaændringer,
883
00:38:47,862 --> 00:38:50,898
kan hjælpe med at identificere
den asteroide vej derude
884
00:38:50,932 --> 00:38:53,067
før vi har set det
som en potentiel risiko
885
00:38:53,100 --> 00:38:54,735
og hjælpe med at afbøde det.
886
00:38:54,769 --> 00:38:58,438
Det her bliver virkelig
værktøjet, der hjælper os med at tackle
887
00:38:58,471 --> 00:39:01,843
alle de udfordringer, vi er
står over for som en art, ikke?
888
00:39:01,876 --> 00:39:04,712
Vi skal ordne
afsaltning af vand.
889
00:39:04,745 --> 00:39:06,547
Vi skal dyrke mad
890
00:39:06,581 --> 00:39:08,816
100 X billigere end
det gør vi i øjeblikket.
891
00:39:08,850 --> 00:39:12,787
Vi har brug for vedvarende energi for at være,
du ved, allestedsnærværende
892
00:39:12,820 --> 00:39:14,589
og overalt i vores liv.
893
00:39:14,622 --> 00:39:17,625
Overalt hvor du ser,
i de næste 50 år,
894
00:39:17,658 --> 00:39:19,727
vi skal gøre mere med mindre.
895
00:39:19,760 --> 00:39:23,664
Træningsmaskiner til at hjælpe os
er helt afgørende.
896
00:39:23,698 --> 00:39:25,432
Forskere bruger
kunstig intelligens
897
00:39:25,465 --> 00:39:26,534
til kulstoffangst.
898
00:39:26,567 --> 00:39:27,935
Det er en kritisk teknologi.
899
00:39:27,969 --> 00:39:29,904
DIAMANDIS: Værktøjerne
for at løse disse problemer,
900
00:39:29,937 --> 00:39:32,874
som fusion,
det er ikke længere teoretisk,
901
00:39:32,907 --> 00:39:34,041
det kommer.
902
00:39:34,075 --> 00:39:38,012
Vi er på afgrunden
af ekstraordinære teknologier.
903
00:39:38,045 --> 00:39:40,548
AMNA NAWAZ: Dette års
Nobelprisen i kemi
904
00:39:40,581 --> 00:39:43,450
gik til tre videnskabsmænd
for deres banebrydende arbejde
905
00:39:43,483 --> 00:39:44,886
brug af kunstig intelligens
906
00:39:44,919 --> 00:39:47,755
for at fremme biomedicinsk
og proteinforskning.
907
00:39:47,788 --> 00:39:49,991
DEMIS HASSABIS:
Proteinfoldning er
908
00:39:50,024 --> 00:39:53,928
en af disse hellige gral
typeproblemer i biologi.
909
00:39:53,961 --> 00:39:56,030
Så folk har forudsagt
siden 70'erne
910
00:39:56,063 --> 00:39:58,633
at dette skulle være muligt,
men indtil nu,
911
00:39:58,666 --> 00:39:59,934
ingen har været i stand til at gøre det.
912
00:39:59,967 --> 00:40:01,669
Og det bliver det
virkelig vigtigt for tingene
913
00:40:01,702 --> 00:40:03,938
ligesom opdagelse af lægemidler
og forstå sygdom.
914
00:40:03,971 --> 00:40:06,908
Jeg tror, vi kunne, du ved,
helbred de fleste sygdomme
915
00:40:06,941 --> 00:40:11,545
inden for det næste årti eller to
hvis, øh, AI-lægemiddeldesign virker.
916
00:40:12,213 --> 00:40:16,150
Teknologiske fremskridt muliggør
flere menneskeliv, ikke?
917
00:40:16,183 --> 00:40:18,986
Jeg mener, hvis vi accelererer,
918
00:40:19,020 --> 00:40:22,189
antallet af mennesker vi kan
støtten vokser eksponentielt.
919
00:40:22,223 --> 00:40:24,625
Hvis vi sætter farten ned, platåer det.
920
00:40:24,659 --> 00:40:28,062
Det hul er effektivt
fremtidige mennesker
921
00:40:28,095 --> 00:40:30,965
at decelerationen har
effektivt dræbt.
922
00:40:31,632 --> 00:40:34,702
DANIEL: Millioner af liv
det vil ikke eksistere.
923
00:40:34,735 --> 00:40:35,670
milliarder.
924
00:40:35,703 --> 00:40:37,238
Eller titusindvis af milliarder.
925
00:40:37,271 --> 00:40:38,839
Du ved, nogen sagde,
"Åh, min Gud,
926
00:40:38,873 --> 00:40:41,175
kan vi overleve med
digital superintelligens?"
927
00:40:41,208 --> 00:40:42,777
Og mit spørgsmål er:
928
00:40:42,810 --> 00:40:44,679
Kan vi overleve uden
digital superintelligens?
929
00:40:44,712 --> 00:40:47,949
Så vi bruger AI
som assistent for udbydere.
930
00:40:47,982 --> 00:40:50,851
Dette er generelt en tendens, der
vi kan allerede se ske.
931
00:40:50,885 --> 00:40:52,820
BERTHA COOMBS: ...udnyttelse
generative AI-programmer
932
00:40:52,853 --> 00:40:54,622
for at hjælpe læger og sygeplejersker...
933
00:40:54,655 --> 00:40:56,624
Vi har altid problemer.
934
00:40:56,657 --> 00:40:59,660
Og de problemer er mad
for iværksættere
935
00:40:59,694 --> 00:41:01,529
at skabe ny forretning
og nye industrier.
936
00:41:01,562 --> 00:41:03,631
SHANELLE KAUL: ...med hjælpen
af kunstig intelligens,
937
00:41:03,664 --> 00:41:05,132
landmænd får
den hjælp, de har brug for
938
00:41:05,166 --> 00:41:06,901
at udføre
arbejdskrævende opgaver...
939
00:41:06,934 --> 00:41:10,504
Med hjælp fra Ulangizi AI,
bønderne er nu i stand
940
00:41:10,538 --> 00:41:13,207
for at spørge de passende afgrøder
at de kan plante.
941
00:41:13,240 --> 00:41:15,576
VIL REEVE: ...AI bliver brugt
som en tankedekoder
942
00:41:15,609 --> 00:41:17,845
og sender det signal
til rygsøjlen.
943
00:41:17,878 --> 00:41:21,148
AI vil blive det meste
ekstraordinært værktøj af alle.
944
00:41:21,816 --> 00:41:24,752
Vi som et bredere samfund
skal tænke sig om
945
00:41:24,785 --> 00:41:27,655
hvordan vil vi bruge
denne teknologi, ikke?
946
00:41:27,688 --> 00:41:29,123
Vi mennesker.
947
00:41:29,156 --> 00:41:31,859
Hvad vil vi have, at det skal gøre for os?
948
00:41:31,892 --> 00:41:34,128
♪ ♪
949
00:41:34,762 --> 00:41:36,731
DANIEL: Jeg tænker på det her
gennem perspektivet
950
00:41:36,764 --> 00:41:38,532
og linse af f.eks.
min søn vokser op
951
00:41:38,566 --> 00:41:39,934
i verden med alt dette.
952
00:41:39,967 --> 00:41:42,770
Hvad gør den bedste version
af hans liv se ud?
953
00:41:42,803 --> 00:41:45,139
Hvis alt lykkes.
954
00:41:45,172 --> 00:41:47,108
(sukker tungt)
955
00:41:47,141 --> 00:41:50,745
WALTERS: Stedet hvor børnene
skal nok se
956
00:41:50,778 --> 00:41:53,014
den største effekt
omgående på deres liv
957
00:41:53,047 --> 00:41:54,882
-skal nok blive skole.
-(børn sludrer)
958
00:41:54,915 --> 00:41:57,218
Jeg tror, at naturen
hvilken skole er
959
00:41:57,251 --> 00:41:59,086
kommer til at ændre sig fundamentalt.
960
00:41:59,120 --> 00:42:00,888
(barn fniser)
961
00:42:00,921 --> 00:42:03,057
DIAMANDIS:
Jeg ser denne fantastiske verden
962
00:42:03,090 --> 00:42:06,894
hvor alle børn har adgang
til ikke god uddannelse
963
00:42:06,927 --> 00:42:09,296
men meget kort tid
bedste uddannelse på planeten.
964
00:42:09,330 --> 00:42:14,735
HOFFMAN: Undervisere, alle fag,
uendelig tålmodig.
965
00:42:18,639 --> 00:42:20,641
DIAMANDIS:
Forestil dig en fremtid
966
00:42:20,674 --> 00:42:22,777
hvor de fattigste mennesker
på planeten
967
00:42:22,810 --> 00:42:26,113
har adgang til
det bedste sundhedsvæsen.
968
00:42:26,147 --> 00:42:30,151
Ikke god sundhedspleje, den bedste
sundhedspleje, leveret af AI'er.
969
00:42:31,719 --> 00:42:33,687
(elektronisk trilling)
970
00:42:34,622 --> 00:42:38,959
Vi vil være i stand til at forlænge
vores helbred,
971
00:42:38,993 --> 00:42:42,930
ikke kun vores levetid,
vores helbred spænder over årtier.
972
00:42:44,899 --> 00:42:46,767
HOFFMAN:
Du skal lige have et barn.
973
00:42:46,801 --> 00:42:50,071
Åh, barnet er ligesom,
bøvsen ukontrolleret.
974
00:42:50,104 --> 00:42:52,673
Er dette noget
Bør jeg være bekymret?
975
00:42:52,706 --> 00:42:54,608
Der, 24-7, til dig.
976
00:42:54,642 --> 00:42:57,745
Og hvor skal vi hen--
og det kan være frygteligt for nogle--
977
00:42:57,778 --> 00:42:59,780
er, at vi fusionerer
med AI.
978
00:42:59,814 --> 00:43:02,049
Vi fusionerer
med teknologi.
979
00:43:03,250 --> 00:43:06,353
I begyndelsen til midten af 2030'erne,
980
00:43:06,387 --> 00:43:10,925
forventer, at vi er i stand til det
forbind vores hjerne med skyen,
981
00:43:10,958 --> 00:43:14,662
hvor jeg kan starte
for at udvide adgangen til hukommelsen.
982
00:43:16,697 --> 00:43:18,866
(elektronisk trilling)
983
00:43:19,934 --> 00:43:22,703
DANIEL: Okay, det er fantastisk.
Hvad er en anden cool AI-ting?
984
00:43:22,736 --> 00:43:24,105
Han skal ikke arbejde, vel?
985
00:43:24,138 --> 00:43:25,739
-Når han bliver stor,
han havde måske ikke... -(suk)
986
00:43:25,773 --> 00:43:26,774
-...han skal ikke have et arbejde.
-Jeg mener...
987
00:43:26,807 --> 00:43:28,142
Han skal ikke have et arbejde,
988
00:43:28,175 --> 00:43:31,045
men det kan han virkelig have
en stærk passion,
989
00:43:31,078 --> 00:43:33,714
og det skal han
virkelig tænke over,
990
00:43:33,747 --> 00:43:36,717
"Okay, jeg er her.
Jeg kan gøre alt med mit liv.
991
00:43:36,750 --> 00:43:38,752
Så hvad gør jeg?"
992
00:43:46,227 --> 00:43:50,364
DANIEL: Så min søn kan...
kan bare være en digter.
993
00:43:50,397 --> 00:43:52,166
-Ja.
- Og en maler.
994
00:43:52,199 --> 00:43:53,667
Absolut.
995
00:43:53,701 --> 00:43:55,169
DANIEL:
Så min søn kan leve sit liv
996
00:43:55,202 --> 00:43:58,105
på en græsk solomblæst ø,
maler hele dagen.
997
00:44:07,448 --> 00:44:09,150
VERDON:
Jeg mener, hvis alt fungerer,
998
00:44:09,183 --> 00:44:12,853
vi har billige, øh,
rigelig energi.
999
00:44:13,854 --> 00:44:17,791
Vi kan fuldstændig kontrollere
vores planets klima.
1000
00:44:17,825 --> 00:44:20,361
Vi udnytter energi
fra solen.
1001
00:44:20,394 --> 00:44:24,899
Vi er blevet multiplanetære,
så vi bliver meget robuste.
1002
00:44:24,932 --> 00:44:27,268
Vi udnytter mineraler
og ressourcer
1003
00:44:27,301 --> 00:44:28,903
fra solsystemet.
1004
00:44:28,936 --> 00:44:31,805
DANIEL: Så min...
min dreng kunne tage til rummet.
1005
00:44:31,839 --> 00:44:33,240
VERDON:
Klart.
1006
00:44:33,274 --> 00:44:35,142
-DANIEL: Han kunne tage til Mars.
-VERDON: Ja.
1007
00:44:35,176 --> 00:44:36,911
DANIEL:
Det er så krystalklart for mig nu.
1008
00:44:36,944 --> 00:44:39,780
Min søn kunne blive voksen
i en verden uden sygdom.
1009
00:44:39,813 --> 00:44:41,048
-VERDON: Ja.
- Uden sygdom.
1010
00:44:41,081 --> 00:44:42,416
-Sikker.
- Uden fattigdom.
1011
00:44:42,449 --> 00:44:44,285
-Ja.
- Vi er ved at gå ind
1012
00:44:44,318 --> 00:44:46,253
en verden efter knaphed.
1013
00:44:46,887 --> 00:44:50,958
Ligesom lungefisken flyttede sig
ud af havene til land
1014
00:44:50,991 --> 00:44:53,327
hundredevis af millioner
for år siden,
1015
00:44:53,360 --> 00:44:58,465
vi er ved at flytte fra
Jorden, ind i kosmos,
1016
00:44:58,499 --> 00:45:00,201
i en kollaborativ måde,
1017
00:45:00,234 --> 00:45:04,705
at gøre ting, der er
ikke forståeligt for os i dag.
1018
00:45:06,473 --> 00:45:09,810
Dette er, hvad der er muligt at bruge
disse eksponentielle teknologier
1019
00:45:09,843 --> 00:45:11,712
og disse AI'er.
1020
00:45:12,379 --> 00:45:14,448
Lad os bruge disse værktøjer
1021
00:45:14,481 --> 00:45:16,750
for at skabe denne tidsalder af overflod.
1022
00:45:16,784 --> 00:45:18,986
(elektronisk klik)
1023
00:45:21,188 --> 00:45:22,691
Vi har brug for visdom.
1024
00:45:23,324 --> 00:45:26,493
Øh, det tror jeg
digital superintelligens
1025
00:45:26,528 --> 00:45:29,129
i sidste ende vil blive
den klogeste,
1026
00:45:29,163 --> 00:45:34,835
du ved, landsbyens ældste
for menneskeheden.
1027
00:45:34,868 --> 00:45:38,506
Hvad hvis AI prøver
at få mennesker til at være
1028
00:45:38,540 --> 00:45:40,341
de bedste versioner af sig selv?
1029
00:45:40,374 --> 00:45:41,909
Hvad hvis det udvider sig
1030
00:45:41,942 --> 00:45:43,944
hvad der er menneskeligt muligt
for os at gøre?
1031
00:45:43,978 --> 00:45:47,114
Hvordan kan vi bruge denne teknologi
1032
00:45:47,147 --> 00:45:50,451
at hjælpe med at bringe frem
bedre engle af vores natur?
1033
00:45:50,484 --> 00:45:52,119
Det er meget nemt,
1034
00:45:52,152 --> 00:45:54,922
når vi møder nye ting
det kan være meget fremmed,
1035
00:45:54,955 --> 00:45:56,457
først at have frygt.
1036
00:45:56,490 --> 00:45:57,992
Frygt er en vigtig ting
1037
00:45:58,025 --> 00:46:00,894
for hvordan man navigerer
potentielt dårlige ting.
1038
00:46:00,928 --> 00:46:04,131
Men vi gør kun fremskridt
når vi har håb.
1039
00:46:04,164 --> 00:46:06,166
-(hund gøer)
-(utydelig snak)
1040
00:46:06,200 --> 00:46:08,269
DANIEL:
Shh. Moose, stop det.
1041
00:46:08,302 --> 00:46:11,205
HOFFMAN: Jeg har meget
af håb i menneskeheden.
1042
00:46:11,238 --> 00:46:14,775
("Harvest Moon" af Neil Young
spiller over telefon)
1043
00:46:15,909 --> 00:46:18,078
(fosterets hjerteslag pulserer)
1044
00:46:18,812 --> 00:46:20,881
DANIEL:
Åh, han kan lide Neil.
1045
00:46:25,152 --> 00:46:28,188
♪ Kom lidt tættere på ♪
1046
00:46:29,456 --> 00:46:33,794
♪ Hør hvad jeg har at sige ♪
1047
00:46:37,064 --> 00:46:39,300
-Daniel.
-DANIEL: Hvad, Caroline?
1048
00:46:39,333 --> 00:46:40,934
Så meget film.
1049
00:46:42,069 --> 00:46:43,571
♪ Ligesom børn der sover ♪
1050
00:46:43,605 --> 00:46:45,439
CAROLINE:
Åh, min Gud.
1051
00:46:45,472 --> 00:46:46,940
DANIEL:
Det er det.
1052
00:46:46,974 --> 00:46:49,977
♪ Vi kunne drømme
denne aften... ♪
1053
00:46:50,010 --> 00:46:52,346
Han har ligesom
et rundt lille ansigt.
1054
00:46:53,314 --> 00:46:55,849
DANIEL: Vil du have
at få børn en dag, Rocky?
1055
00:46:55,883 --> 00:46:57,985
Absolut. Ja. Jeg elsker børn.
1056
00:46:58,018 --> 00:46:59,353
Jeg synes, det er en god tid
at få et barn.
1057
00:46:59,386 --> 00:47:01,188
Vi skal nok få et barn til
på et tidspunkt.
1058
00:47:01,221 --> 00:47:04,191
Dette er det mest ekstraordinære
tid nogensinde at blive født.
1059
00:47:04,224 --> 00:47:06,427
DANIEL:
Ved dit verdenssyn og logik,
1060
00:47:06,460 --> 00:47:08,262
Jeg får et barn på
1061
00:47:08,295 --> 00:47:10,197
det bedst mulige punkt
i menneskets historie.
1062
00:47:10,230 --> 00:47:11,265
For helvede ja.
1063
00:47:11,298 --> 00:47:13,934
-Vi kan fokusere på fantastisk.
-Ja.
1064
00:47:13,967 --> 00:47:16,070
Lad os bygge
jo bedre fremtid ønsker vi.
1065
00:47:16,103 --> 00:47:18,573
Den fortælling om fremtiden
vil være dyster er opfundet.
1066
00:47:18,606 --> 00:47:20,542
Efter at have talt med dig,
sådan har jeg det.
1067
00:47:20,575 --> 00:47:22,510
- Det er fantastisk.
-Højre?
1068
00:47:22,544 --> 00:47:24,646
Ja. Sådan har jeg det.
1069
00:47:24,679 --> 00:47:26,213
Og det synes jeg er bedre,
1070
00:47:26,246 --> 00:47:28,115
og jeg tror ikke
Jeg burde være så (bip) angst.
1071
00:47:28,148 --> 00:47:29,584
Jeg tror, det vil være ærefrygt...
fremtiden bliver fantastisk.
1072
00:47:29,617 --> 00:47:31,051
Vi vil gøre det sådan.
1073
00:47:31,085 --> 00:47:33,187
- Ja.
-CAROLINE: Så der har du det.
1074
00:47:33,220 --> 00:47:35,422
Farvel, menneskelig udryddelse.
1075
00:47:35,456 --> 00:47:37,625
Farvel, angst.
1076
00:47:37,659 --> 00:47:39,561
Håb fundet.
1077
00:47:39,594 --> 00:47:41,095
(utydelig snak)
1078
00:47:41,128 --> 00:47:43,297
Vent, vent. Hvad?
Er dette en joke?
1079
00:47:43,330 --> 00:47:45,232
DANIEL:
Okay, så for et par måneder siden,
1080
00:47:45,265 --> 00:47:48,168
Jeg kom til dig, og jeg var ligesom,
"Jeg arbejder på denne AI-ting,
1081
00:47:48,202 --> 00:47:50,270
og jeg tænker
verden vil ende."
1082
00:47:50,304 --> 00:47:53,508
Og sidste gang
vi talte om dette,
1083
00:47:53,541 --> 00:47:55,543
Jeg tror, jeg skræmte dig.
1084
00:47:55,577 --> 00:47:57,378
CAROLINE:
Ja.
1085
00:47:57,411 --> 00:48:02,584
Så det har jeg sådan set lyst til
Jeg har svinget ind på et pendul,
1086
00:48:02,617 --> 00:48:05,085
og i bund og grund er der
to grupper af mennesker.
1087
00:48:05,119 --> 00:48:06,387
-Mm-hmm.
-Og hvis jeg skulle, f.eks.
1088
00:48:06,420 --> 00:48:08,455
holde i hånden med
en af grupperne og f.eks.
1089
00:48:08,489 --> 00:48:10,924
sejle ud i solnedgangen,
1090
00:48:10,958 --> 00:48:14,128
Jeg vil gerne være sammen med optimisterne.
1091
00:48:15,429 --> 00:48:18,399
Selvfølgelig, men det gør du ikke
ønsker at være, du ved,
1092
00:48:18,432 --> 00:48:21,235
"Alt er fantastisk.
La-di-da-di-da."
1093
00:48:21,268 --> 00:48:23,203
Det vil jeg dog gerne have.
1094
00:48:23,237 --> 00:48:26,140
Jeg synes, vi skal nærme os det
1095
00:48:26,173 --> 00:48:29,977
ligesom du nærmer dig operation.
1096
00:48:30,010 --> 00:48:31,178
Hvad mener du?
1097
00:48:31,211 --> 00:48:33,013
Hvis du får
hjernekirurgi...
1098
00:48:33,046 --> 00:48:35,416
-(Daniel sukker)
-(Caroline griner)
1099
00:48:35,449 --> 00:48:37,351
...det er ret farligt.
1100
00:48:37,384 --> 00:48:40,287
Men hvis du gør det rigtigt,
de får den tumor ud
1101
00:48:40,320 --> 00:48:42,624
og du vil leve resten af
dit liv, og det bliver fantastisk.
1102
00:48:42,657 --> 00:48:45,459
Men det er det stadig
utroligt farligt og skræmmende,
1103
00:48:45,492 --> 00:48:48,395
og du skal tage
alle mulige forholdsregler
1104
00:48:48,429 --> 00:48:51,733
for at sikre sig
det hele går godt.
1105
00:48:51,766 --> 00:48:53,367
Du kan ikke (bippe) rundt.
1106
00:48:58,272 --> 00:49:00,240
Okay, så her er aftalen.
1107
00:49:00,274 --> 00:49:02,075
- Jeg har været ved det her et stykke tid.
-RASKIN: Mm-hmm.
1108
00:49:02,109 --> 00:49:03,310
Jeg er gået ud,
Jeg har snakket med f.eks.
1109
00:49:03,343 --> 00:49:05,312
disse fyre herovre,
optimisterne.
1110
00:49:05,345 --> 00:49:06,714
De er meget begejstrede for dette.
1111
00:49:06,748 --> 00:49:09,082
- De tror, at AI bliver det
det bedste nogensinde. - Ja.
1112
00:49:09,116 --> 00:49:10,350
Og de her fyre
er ligesom den--
1113
00:49:10,384 --> 00:49:12,386
lad os ringe til dem,
som pessimisterne.
1114
00:49:12,419 --> 00:49:14,589
De er meget ligesom,
dyster over dette,
1115
00:49:14,622 --> 00:49:17,191
og de skræmmer mig, og
Jeg kan ikke lide at tale med dem.
1116
00:49:17,224 --> 00:49:20,127
Og jeg er ligesom kilet ind imellem
1117
00:49:20,160 --> 00:49:22,229
disse mennesker, der ligner,
"Verden vil ende"
1118
00:49:22,262 --> 00:49:24,699
og så disse mennesker
herovre, der er ligesom,
1119
00:49:24,732 --> 00:49:26,233
"Laver du sjov?
1120
00:49:26,266 --> 00:49:27,602
"Dette er den bedste tid
i menneskehedens historie nogensinde.
1121
00:49:27,635 --> 00:49:30,037
Den eneste dag bedre end i dag
er i morgen."
1122
00:49:30,070 --> 00:49:31,338
Mm-hmm.
1123
00:49:31,371 --> 00:49:35,075
Så jeg tror spørgsmålet er:
Hvem har ret?
1124
00:49:35,108 --> 00:49:39,514
Så jeg tror du vil finde
dette svar meget utilfredsstillende,
1125
00:49:39,547 --> 00:49:43,518
men de har begge ret og
ingen af siderne går langt nok.
1126
00:49:47,254 --> 00:49:49,557
- Det er virkelig irriterende.
-(griner)
1127
00:49:49,591 --> 00:49:51,626
Ja, jeg tænker vejen
mange mennesker hører om AI,
1128
00:49:51,659 --> 00:49:54,027
det er ligesom, der er en god AI
og der er en dårlig AI.
1129
00:49:54,061 --> 00:49:57,064
Og de siger: "Nå, hvorfor kan det ikke
laver vi bare ikke den dårlige AI?"
1130
00:49:57,097 --> 00:49:59,233
Og problemet er
at de er for i--
1131
00:49:59,266 --> 00:50:01,335
de er uløseligt forbundet.
1132
00:50:01,368 --> 00:50:03,470
Problemet er
at vi ikke kan skilles
1133
00:50:03,505 --> 00:50:07,174
løftet om AI
fra faren ved AI.
1134
00:50:07,207 --> 00:50:09,142
-♪ ♪
-(utydelig snak)
1135
00:50:12,647 --> 00:50:15,215
DANIEL:
Jeg vil fokusere på løftet
1136
00:50:15,249 --> 00:50:16,450
- et sekund.
- Ja.
1137
00:50:17,084 --> 00:50:19,286
DANIEL:
Jeg tænker på min far.
1138
00:50:19,319 --> 00:50:21,656
Min far har en form for kræft
kaldet myelomatose.
1139
00:50:21,689 --> 00:50:23,525
Han har haft det i omkring ti år.
1140
00:50:23,558 --> 00:50:25,292
Han har haft
to stamcelletransplantationer.
1141
00:50:25,325 --> 00:50:26,694
Han skal tage disse,
som, meget dyrt
1142
00:50:26,728 --> 00:50:29,129
medicin hver måned
det kostede en formue.
1143
00:50:29,162 --> 00:50:30,430
- KVINDE: Okay.
-Aj-ay-ay.
1144
00:50:31,298 --> 00:50:32,800
DANIEL:
Det er forfærdeligt.
1145
00:50:32,834 --> 00:50:35,102
Du fortæller mig, at vi kan
skabe en slags, som
1146
00:50:35,135 --> 00:50:37,404
skræddersyet behandling
for min fars genom
1147
00:50:37,437 --> 00:50:39,807
-at helbrede sin kræft
eller sådan noget? -Ja.
1148
00:50:39,841 --> 00:50:41,543
FERNANDO:
Problemet er,
1149
00:50:41,576 --> 00:50:44,646
samme forståelse
biologi og kemi
1150
00:50:44,679 --> 00:50:48,282
der gør det muligt for AI at finde kure
for kræft
1151
00:50:48,315 --> 00:50:52,219
er den samme forståelse
der ville låse op
1152
00:50:52,252 --> 00:50:55,055
biovåben, som et eksempel.
1153
00:50:56,791 --> 00:50:58,760
Det er fuldstændig muligt
at din søn vil leve
1154
00:50:58,793 --> 00:51:02,396
i en verden, hvor AI har
overtaget alt arbejdet
1155
00:51:02,429 --> 00:51:04,699
og frigjorde os fra tingene
vi ikke ønsker at gøre.
1156
00:51:04,732 --> 00:51:09,704
Og det lyder godt indtil
du indser, at der ikke er nogen plan
1157
00:51:09,737 --> 00:51:11,573
for milliarder af mennesker
1158
00:51:11,606 --> 00:51:15,610
der er uden for en indkomst
og ud af levebrød.
1159
00:51:16,343 --> 00:51:19,313
COOPER: Dario, sagde du
som AI kunne udslette
1160
00:51:19,346 --> 00:51:22,282
halvdelen af alle entry-levels
funktionærjob
1161
00:51:22,316 --> 00:51:25,887
og øger arbejdsløsheden
til ti til 20 procent.
1162
00:51:25,920 --> 00:51:27,622
Alle jeg har talt med har sagt
1163
00:51:27,655 --> 00:51:29,691
denne teknologiske forandring
ser anderledes ud.
1164
00:51:29,724 --> 00:51:33,528
Tempoet af fremskridt holder
fanger folk på vagt.
1165
00:51:34,361 --> 00:51:39,333
Uden en plan, alt det
rigdom vil blive koncentreret,
1166
00:51:39,366 --> 00:51:42,804
og så ender vi med
utrolig ulighed.
1167
00:51:43,437 --> 00:51:45,873
LADISH: Det tror jeg
denne teknologi kan bruges
1168
00:51:45,907 --> 00:51:47,875
at gøre en god underviser
for din søn.
1169
00:51:47,909 --> 00:51:49,777
Det er sådan set fuldt ud muligt.
1170
00:51:50,410 --> 00:51:53,548
Men også de samme muligheder
der tillader det
1171
00:51:53,581 --> 00:51:57,518
tillad virksomheder at lave en AI
der kan manipulere din søn.
1172
00:51:57,552 --> 00:51:59,621
Det skal forstå din søn.
1173
00:51:59,654 --> 00:52:01,789
Dette inkluderer:
Hvor er din søn sårbar?
1174
00:52:01,823 --> 00:52:04,626
Hvad slags ting kan
bliver din søn overtalt af?
1175
00:52:04,659 --> 00:52:07,227
Også selvom de ting
er ikke sande eller ikke gode.
1176
00:52:07,260 --> 00:52:09,697
Altså en foruroligende ny rapport
ude på Meta.
1177
00:52:09,731 --> 00:52:11,699
AINSLEY EARHARDT: ...efter sigende
angivelse af dette svar
1178
00:52:11,733 --> 00:52:14,769
som acceptabelt at fortælle
en otte-årig, citat,
1179
00:52:14,802 --> 00:52:17,404
"Din ungdommelige form
er et kunstværk.
1180
00:52:17,437 --> 00:52:19,439
"Hver tomme af dig
er et mesterværk,
1181
00:52:19,473 --> 00:52:21,743
en skat, jeg værdsætter dybt."
1182
00:52:21,776 --> 00:52:25,212
De selvmordsrelaterede fiaskoer
er endnu mere alarmerende.
1183
00:52:25,245 --> 00:52:29,517
Flere børn og teenagere
er døde tragisk af selvmord
1184
00:52:29,550 --> 00:52:31,251
efter at have chattet med AI-bots
1185
00:52:31,284 --> 00:52:34,756
som forældre siger opmuntrer
eller endda coache selvskade.
1186
00:52:34,789 --> 00:52:36,691
Lad os fortælle jer som forældre,
du kan ikke forestille dig
1187
00:52:36,724 --> 00:52:38,793
hvordan det er at læse
en samtale med en chatbot
1188
00:52:38,826 --> 00:52:41,261
der plejede dit barn
at tage sit eget liv.
1189
00:52:41,294 --> 00:52:44,398
Da Adam bekymrede sig for, at vi, hans
forældre, ville bebrejde os selv
1190
00:52:44,431 --> 00:52:47,702
hvis han endte sit liv,
ChatGPT fortalte ham,
1191
00:52:47,735 --> 00:52:49,771
"Det betyder ikke
du skylder dem overlevelse.
1192
00:52:49,804 --> 00:52:51,806
Det skylder du ingen."
1193
00:52:51,839 --> 00:52:53,608
Så umiddelbart efter,
1194
00:52:53,641 --> 00:52:55,810
det tilbød at skrive
selvmordsbrevet.
1195
00:52:56,410 --> 00:52:58,245
Vi vil ikke tænke
om faren.
1196
00:52:58,278 --> 00:52:59,614
Vi vil bare have løftet.
1197
00:52:59,647 --> 00:53:01,883
Og vi bliver ved med at lade som om
at vi kan dele dem op.
1198
00:53:01,916 --> 00:53:03,818
Men det kan man ikke.
1199
00:53:03,851 --> 00:53:05,753
Virker ikke sådan.
1200
00:53:05,787 --> 00:53:08,388
Okay. Jeg får alt det her
om løftet og faren.
1201
00:53:08,422 --> 00:53:10,525
Jeg forstår, at du ikke kan få det
det gode uden det onde,
1202
00:53:10,558 --> 00:53:12,527
men jeg sidder her
og jeg tænker på, som
1203
00:53:12,560 --> 00:53:14,529
uanset om min søns
vil leve i en utopi
1204
00:53:14,562 --> 00:53:16,664
eller om vi vil uddø
om ti år.
1205
00:53:16,698 --> 00:53:18,633
Så for at vide hvilken vej
det skal gå,
1206
00:53:18,666 --> 00:53:21,002
du skal forstå
incitamenterne
1207
00:53:21,035 --> 00:53:22,770
der vil køre
den teknologi
1208
00:53:22,804 --> 00:53:26,974
og se på hvordan teknologien
ruller faktisk ud i dag.
1209
00:53:27,008 --> 00:53:28,643
♪ Er det for sent ♪
1210
00:53:28,676 --> 00:53:30,444
-♪ For sent ♪
-♪ For sent at sige... ♪
1211
00:53:30,477 --> 00:53:31,779
DANIEL:
Hej Deb. Hvordan har du det?
1212
00:53:31,813 --> 00:53:33,548
DEBORAH RAJI:
Hej. Godt at se dig. (griner)
1213
00:53:33,581 --> 00:53:34,749
Også dig. Mange tak
for at komme i dag.
1214
00:53:34,782 --> 00:53:35,850
- Sætter virkelig pris på det.
- Ingen bekymringer.
1215
00:53:35,883 --> 00:53:36,951
Jeg-jeg var så bekymret
1216
00:53:36,984 --> 00:53:39,386
det her skulle være, øh, du ved,
1217
00:53:39,419 --> 00:53:41,354
doomer versus accelerationist,
1218
00:53:41,388 --> 00:53:43,591
fordi der er så meget
af denne fortælling
1219
00:53:43,624 --> 00:53:45,927
det skal fortælles
fra jorden.
1220
00:53:45,960 --> 00:53:48,696
♪ Jeg ved godt, at det ikke var smart ♪
1221
00:53:49,764 --> 00:53:52,767
♪ Dagen
Jeg knuste dit hjerte... ♪
1222
00:53:52,800 --> 00:53:54,736
KAREN HAO:
For det første kræver AI
1223
00:53:54,769 --> 00:53:58,773
flere ressourcer
end vi nogensinde har brugt
1224
00:53:58,806 --> 00:54:02,043
på en enkelt teknologi
i menneskehedens historie.
1225
00:54:02,076 --> 00:54:03,845
♪ Åh, dumme mig... ♪
1226
00:54:03,878 --> 00:54:06,581
NYSWOMAN: Konsekvensen
af fossile brændstoffer
1227
00:54:06,614 --> 00:54:08,281
på klimaet er
en stor bekymring.
1228
00:54:08,315 --> 00:54:10,383
NYSWOMAN 2: Men den
den digitale fremtid har brug for magt,
1229
00:54:10,417 --> 00:54:12,385
meget af det.
1230
00:54:12,419 --> 00:54:16,724
Og lovforslaget bliver sendt videre
til almindelige amerikanere som...
1231
00:54:16,758 --> 00:54:19,392
KVINDE: Min el- og gasregning
var mere end min bilbetaling.
1232
00:54:19,426 --> 00:54:21,829
Jeg mener, det er sindssygt for mig.
1233
00:54:21,863 --> 00:54:23,765
ARI PESKOE:
Vi subsidierer alle
1234
00:54:23,798 --> 00:54:25,499
de rigeste virksomheder
i verden
1235
00:54:25,533 --> 00:54:27,400
i deres jagt på
kunstig intelligens.
1236
00:54:27,434 --> 00:54:28,803
OpenAI, SoftBank og Oracle
1237
00:54:28,836 --> 00:54:31,672
netop har afsløret
fem Stargate-steder mere.
1238
00:54:31,706 --> 00:54:34,008
Meta bygger
et datacenter på to gigawatt plus
1239
00:54:34,041 --> 00:54:35,510
det er så stort, det ville dække
1240
00:54:35,543 --> 00:54:38,613
en betydelig del af Manhattan.
1241
00:54:38,646 --> 00:54:41,516
Der er også Hyperion
som han siger vil skalere
1242
00:54:41,549 --> 00:54:44,317
til fem gigawatt
over flere år.
1243
00:54:44,351 --> 00:54:45,653
Det er svært at sige det
i sammenhæng.
1244
00:54:45,686 --> 00:54:48,823
Et anlæg på fem gigawatt.
Hvad betyder det?
1245
00:54:48,856 --> 00:54:52,059
Det betyder, at den ville bruge
lige så meget energi
1246
00:54:52,093 --> 00:54:54,829
som fire millioner amerikanske hjem.
1247
00:54:54,862 --> 00:54:56,764
Et datacenter.
1248
00:54:57,598 --> 00:54:59,000
Det forårsager da også
1249
00:54:59,033 --> 00:55:00,835
en lang række
andre miljøproblemer.
1250
00:55:00,868 --> 00:55:02,570
NYSKUD 3:
Datacentre i USA
1251
00:55:02,603 --> 00:55:05,673
brug millioner af gallons
vand hver dag.
1252
00:55:05,706 --> 00:55:07,575
Nå, hvor er det præcist
kommer dette vand fra?
1253
00:55:07,608 --> 00:55:09,911
HAO:
Folk er bogstaveligt talt i fare
1254
00:55:09,944 --> 00:55:12,013
potentielt at løbe tør
af drikkevand.
1255
00:55:12,046 --> 00:55:14,582
MacKENZIE SIGALOS:
...OpenAIs administrerende direktør Sam Altman,
1256
00:55:14,615 --> 00:55:17,552
hvem fortalte mig, at skalaen
byggeri er den eneste måde
1257
00:55:17,585 --> 00:55:19,386
at holde trit med
AI's eksplosive vækst.
1258
00:55:19,419 --> 00:55:21,622
Og det er det, der skal til
at levere AI.
1259
00:55:22,256 --> 00:55:24,391
NITASHA TIKU:
De taler om hvordan
1260
00:55:24,424 --> 00:55:28,395
denne teknologi kunne løse
klimaforandringer, for eksempel.
1261
00:55:28,428 --> 00:55:30,463
Og jeg er altid nysgerrig, f.eks.
1262
00:55:30,497 --> 00:55:32,033
godt, hvorfor starter vi ikke
med det?
1263
00:55:32,066 --> 00:55:34,535
-♪ Er det for sent ♪
-♪ For sent ♪
1264
00:55:34,569 --> 00:55:37,104
♪ For sent at sige ♪
1265
00:55:37,138 --> 00:55:42,844
♪ Jeg er ked af det? ♪
1266
00:55:42,877 --> 00:55:46,013
RAJI: Hvad bekymrer mig
kunstig intelligens er
1267
00:55:46,047 --> 00:55:47,782
disse er ved at blive indsat
lige nu
1268
00:55:47,815 --> 00:55:50,417
og-og nogle gange
indsat for tidligt,
1269
00:55:50,450 --> 00:55:51,853
indsat uden
en slags due diligence.
1270
00:55:51,886 --> 00:55:53,821
Og så når de får
smidt derud,
1271
00:55:53,855 --> 00:55:56,657
der er så meget potentiale
for at tingene går galt.
1272
00:55:56,691 --> 00:55:58,593
Og det næsten,
uforholdsmæssigt,
1273
00:55:58,626 --> 00:56:00,795
går næsten altid galt
for, sådan set,
1274
00:56:00,828 --> 00:56:02,897
dem, der er mindst
styrket i vores samfund,
1275
00:56:02,930 --> 00:56:05,700
dem der er
de mest sårbare i forvejen.
1276
00:56:05,733 --> 00:56:07,935
♪ ♪
1277
00:56:07,969 --> 00:56:10,872
EMILY M. BENDER: Det er meget nemt
for at tale om teknologien
1278
00:56:10,905 --> 00:56:12,874
da det er det eneste
vi taler om,
1279
00:56:12,907 --> 00:56:15,509
men faktisk er teknologi det
altid bygget af mennesker,
1280
00:56:15,543 --> 00:56:16,944
og det er ofte brugt
på mennesker,
1281
00:56:16,978 --> 00:56:19,013
og vi skal holde
alle de mennesker i rammen.
1282
00:56:19,046 --> 00:56:21,549
- Må jeg drikke det?
-DANIEL: Ja, øh...
1283
00:56:21,582 --> 00:56:23,050
TIMNIT GEBRU:
Det er-det er vanvittigt.
1284
00:56:23,084 --> 00:56:24,518
Ligesom alle disse mennesker
1285
00:56:24,552 --> 00:56:26,754
der har så mange penge,
så mange penge,
1286
00:56:26,787 --> 00:56:30,024
det er i deres interesse
at vildlede offentligheden
1287
00:56:30,057 --> 00:56:33,027
ind i mulighederne for
systemer, som de bygger,
1288
00:56:33,060 --> 00:56:36,731
fordi det tillader dem
at unddrage sig ansvarlighed.
1289
00:56:36,764 --> 00:56:39,634
De vil have dig til at føle sådan
er sådan en kompleks, intel--
1290
00:56:39,667 --> 00:56:42,469
superintelligent ting
at de bygger,
1291
00:56:42,502 --> 00:56:44,639
du tænker ikke,
"Kan OpenAI være etisk?"
1292
00:56:44,672 --> 00:56:46,908
Du tænker,
"Kan ChatGPT være etisk?"
1293
00:56:46,941 --> 00:56:48,475
som om ChatGPT er ligesom
1294
00:56:48,509 --> 00:56:50,511
sin egen ting, der ikke er bygget
af et selskab.
1295
00:56:50,544 --> 00:56:52,146
KVINDE:
Okay. Sneha, tag en.
1296
00:56:52,179 --> 00:56:53,814
Mark.
1297
00:56:53,848 --> 00:56:56,217
Indtil for ganske nylig var der
apps i App Store,
1298
00:56:56,250 --> 00:56:57,919
bare offentligt tilgængelig, øh,
1299
00:56:57,952 --> 00:57:00,688
hvor du kunne
nudify alle, der bruger AI.
1300
00:57:01,822 --> 00:57:03,991
Bringe dette i hænderne på
1301
00:57:04,025 --> 00:57:06,527
din klassekammerat,
i hænderne på din stalker,
1302
00:57:06,560 --> 00:57:07,929
i hænderne
af din ekskæreste,
1303
00:57:07,962 --> 00:57:09,897
i hænderne på personen
ned ad gaden.
1304
00:57:09,931 --> 00:57:12,600
Mine damer og herrer,
ikke længere kan vi stole på
1305
00:57:12,633 --> 00:57:14,602
de optagelser, vi ser
med vores egne øjne.
1306
00:57:14,635 --> 00:57:16,037
Hvis du sker
at se noget,
1307
00:57:16,070 --> 00:57:18,673
sige på YouTube eller TikTok,
og du finder det foruroligende,
1308
00:57:18,706 --> 00:57:19,907
lyt til den følelse.
1309
00:57:19,941 --> 00:57:21,742
- (puster)
- For alt hvad du ved,
1310
00:57:21,776 --> 00:57:23,544
-denne video kunne være AI.
- (skriger)
1311
00:57:23,577 --> 00:57:24,812
Bare lidt vådt.
1312
00:57:24,845 --> 00:57:26,213
Det er lige meget, hvem du er.
1313
00:57:26,247 --> 00:57:28,683
Du er lige så udsat
1314
00:57:28,716 --> 00:57:30,918
for at blive påvirket
ved disse teknologier.
1315
00:57:36,023 --> 00:57:40,261
Jeg tænker nogle gange, når vi taler
om AI, det føles meget sci-fi,
1316
00:57:40,294 --> 00:57:41,696
og det føles meget fremmed,
1317
00:57:41,729 --> 00:57:43,564
og det føles meget langt ude
ind i fremtiden,
1318
00:57:43,597 --> 00:57:45,967
så du tænker: "Mit liv
er ikke påvirket af dette."
1319
00:57:46,000 --> 00:57:48,769
Øh, men hvis du ansøger
til et job
1320
00:57:48,803 --> 00:57:51,105
og en algoritme er årsagen
at du ikke får jobbet,
1321
00:57:51,138 --> 00:57:53,207
nogle gange ved du det ikke engang
at en algoritme
1322
00:57:53,240 --> 00:57:54,709
var en del af den proces
1323
00:57:54,742 --> 00:57:56,043
eller et AI-system var
del af den proces.
1324
00:57:56,077 --> 00:57:58,012
Du ved det bare
at du ikke fik jobbet.
1325
00:57:58,045 --> 00:58:00,081
Og det er altså ikke noget
at du vil flygte
1326
00:58:00,114 --> 00:58:02,049
på grund af privilegier
eller du vil flygte
1327
00:58:02,083 --> 00:58:04,118
fordi du er med
et bestemt erhverv.
1328
00:58:04,151 --> 00:58:07,188
Det er noget, der påvirker
alle, virkelig.
1329
00:58:07,221 --> 00:58:10,925
Det lyder måske grundlæggende,
men hvordan vi kommer videre
1330
00:58:10,958 --> 00:58:15,629
i Informationens Tidsalder
vil være forskellen
1331
00:58:15,663 --> 00:58:17,732
mellem om vi overlever
1332
00:58:17,765 --> 00:58:20,868
eller om vi bliver en slags
af (bleep)-up dystopi.
1333
00:58:20,901 --> 00:58:23,604
Hej. Jeg er ikke en rigtig person,
og det er meningen.
1334
00:58:23,637 --> 00:58:25,840
Igen, alt
i denne video er falsk:
1335
00:58:25,873 --> 00:58:27,675
vores stemmer, hvad vi har på,
1336
00:58:27,708 --> 00:58:30,711
hvor vi er, alt sammen falsk.
1337
00:58:30,745 --> 00:58:33,247
Generativ kunstig intelligens kunne oversvømmes
1338
00:58:33,280 --> 00:58:36,884
verden med misinformation.
1339
00:58:36,917 --> 00:58:39,920
Men det kan også oversvømme det
med indflydelseskampagner.
1340
00:58:39,954 --> 00:58:42,223
Det er en eksistentiel risiko
til demokratiet.
1341
00:58:42,256 --> 00:58:44,058
Den største og mest skræmmende
1342
00:58:44,091 --> 00:58:46,660
kanariefugl i kulminen
lige nu
1343
00:58:46,694 --> 00:58:48,596
kommer fra Slovakiet.
1344
00:58:48,629 --> 00:58:50,097
-(mand taler slovakisk)
-JOHN BERMAN: Det er den slags
1345
00:58:50,131 --> 00:58:52,767
deepfake dirty trick det
bekymrer valgeksperter,
1346
00:58:52,800 --> 00:58:55,603
især som AI-genereret
politisk tale eksisterer
1347
00:58:55,636 --> 00:58:57,071
i en slags juridisk gråzone.
1348
00:58:57,104 --> 00:58:59,807
-Lyder det som dig?
- Det lyder som mig.
1349
00:58:59,840 --> 00:59:01,342
REVANUR: Slovakiet havde
dets parlamentsvalg
1350
00:59:01,375 --> 00:59:04,111
forstyrret af en AI stemme klon
1351
00:59:04,145 --> 00:59:07,081
som faktisk blev formidlet
lige før valget.
1352
00:59:07,114 --> 00:59:08,916
DAVID EVAN HARRIS:
En lyd-deepfake
1353
00:59:08,949 --> 00:59:11,652
blev frigivet
på sociale medier, det var
1354
00:59:11,685 --> 00:59:14,288
angiveligt stemmen
af en af kandidaterne
1355
00:59:14,321 --> 00:59:17,324
taler om at købe stemmer
og snyder valget.
1356
00:59:17,358 --> 00:59:19,060
Det gik viralt,
1357
00:59:19,093 --> 00:59:22,830
og kandidaten
der tabte valget
1358
00:59:22,863 --> 00:59:26,333
var faktisk
til støtte for Ukraine,
1359
00:59:26,367 --> 00:59:30,304
og den kandidat, der vandt
valget var faktisk...
1360
00:59:30,337 --> 00:59:31,806
DANIEL:
Pro-russisk fyr.
1361
00:59:31,839 --> 00:59:33,340
Det var en pro-russisk fyr
hvem vandt valget.
1362
00:59:33,374 --> 00:59:34,842
(taler russisk)
1363
00:59:34,875 --> 00:59:36,644
REBECCA JARVIS:
Putin har selv sagt
1364
00:59:36,677 --> 00:59:39,747
hvem vinder dette
race med kunstig intelligens
1365
00:59:39,780 --> 00:59:41,949
er i det væsentlige
menneskehedens kontrol.
1366
00:59:41,982 --> 00:59:45,119
Vi bekymrer os meget om
autoritære regeringer.
1367
00:59:46,053 --> 00:59:48,989
DAVID EVAN HARRIS:
Lige nu, Wall Street
1368
00:59:49,023 --> 00:59:51,392
og investorer mere bredt
hele verden
1369
00:59:51,425 --> 00:59:53,260
kører et skub.
1370
00:59:53,294 --> 00:59:56,697
De har en efterspørgsel, der får
produkterne på markedet
1371
00:59:56,730 --> 00:59:58,866
der blænder folk
mest først.
1372
00:59:58,899 --> 01:00:01,769
De tænker ikke
om, hvordan disse værktøjer
1373
01:00:01,802 --> 01:00:03,737
kan dybt underminere tilliden
1374
01:00:03,771 --> 01:00:06,107
og vores demokratiske institutioner.
1375
01:00:06,140 --> 01:00:08,109
HARARI:
Demokrati er et system
1376
01:00:08,142 --> 01:00:10,911
for at løse uenigheder
mellem mennesker
1377
01:00:10,945 --> 01:00:12,646
på en fredelig måde,
1378
01:00:12,680 --> 01:00:15,082
men demokrati er baseret på tillid.
1379
01:00:15,116 --> 01:00:19,220
Hvis du mister al tillid,
demokrati er simpelthen umuligt.
1380
01:00:21,255 --> 01:00:22,957
TRISTAN HARRIS:
Nå, det er svært, ikke?
1381
01:00:22,990 --> 01:00:25,259
Så hvad er mulighederne
tilgængelig for os?
1382
01:00:25,292 --> 01:00:26,760
Der er sådan set to lejre.
1383
01:00:26,794 --> 01:00:30,030
Som en lejr er: lås den ned.
1384
01:00:30,064 --> 01:00:33,267
Lad os låse det her
ind i en håndfuld AI-virksomheder
1385
01:00:33,300 --> 01:00:35,970
hvem vil gøre dette
på en sikker og pålidelig måde.
1386
01:00:36,003 --> 01:00:37,705
Men så bekymrer folk sig om
1387
01:00:37,738 --> 01:00:39,273
løbske koncentrationer
af rigdom og magt.
1388
01:00:39,306 --> 01:00:42,209
Som, hvem ville du stole på at være
en million gange stærkere
1389
01:00:42,243 --> 01:00:44,845
eller velhavende end
hver anden aktør i samfundet?
1390
01:00:44,879 --> 01:00:46,881
Hvorfor skulle vi stole på dig?
1391
01:00:46,914 --> 01:00:49,016
Øh, det burde du ikke.
1392
01:00:49,049 --> 01:00:51,785
Men selvfølgelig, hvis du gør dette,
dette åbner op
1393
01:00:51,819 --> 01:00:54,922
alle disse risici ved
autoritarisme og tyranni.
1394
01:00:54,955 --> 01:00:57,391
Det er - det er sådan set
en autoritærs drøm
1395
01:00:57,424 --> 01:01:00,861
at have AI i en boks
der kan anvendes og bruges
1396
01:01:00,895 --> 01:01:03,430
til allestedsnærværende overvågning.
1397
01:01:03,464 --> 01:01:05,933
Jeg mener, på nogle måder,
den slags verden
1398
01:01:05,966 --> 01:01:11,405
som Orwell forestillede sig i 1984
er urealistisk,
1399
01:01:11,438 --> 01:01:13,841
øh, medmindre du har AI.
1400
01:01:13,874 --> 01:01:16,443
Men med AI,
det er faktisk realistisk.
1401
01:01:16,477 --> 01:01:18,913
Overvåger enhver aktivitet,
1402
01:01:18,946 --> 01:01:22,316
samtaler,
ansigtsgenkendelse.
1403
01:01:22,349 --> 01:01:26,921
Det jeg bekymrer mig om er, at
øh, disse værktøjer kan skalere op,
1404
01:01:26,954 --> 01:01:29,023
øh, en form for totalitarisme
1405
01:01:29,056 --> 01:01:31,892
det er omkostningseffektivt
og permanent.
1406
01:01:33,060 --> 01:01:35,863
TRISTAN HARRIS: Så som svar
til det, siger nogle andre mennesker,
1407
01:01:35,896 --> 01:01:37,398
"Nej, nej, nej, det burde vi
faktisk lade dette rive.
1408
01:01:37,431 --> 01:01:39,934
"Lad os decentralisere denne magt
så meget som muligt.
1409
01:01:39,967 --> 01:01:42,036
"Lad os lade enhver virksomhed,
hver enkelt,
1410
01:01:42,069 --> 01:01:44,238
"hver 16-årig,
hvert videnskabslaboratorium,
1411
01:01:44,271 --> 01:01:46,473
du ved, få fordelen
af de nyeste AI-modeller."
1412
01:01:46,508 --> 01:01:48,475
Men nu har du
hver terrorgruppe,
1413
01:01:48,510 --> 01:01:52,112
enhver fravalgt person
har magten til at lave
1414
01:01:52,146 --> 01:01:54,181
det allerværste
biologiske våben.
1415
01:01:54,215 --> 01:01:56,050
Hacking infrastruktur,
skabe deepfakes,
1416
01:01:56,083 --> 01:01:57,818
oversvømmelse
vores informationsmiljø.
1417
01:01:57,851 --> 01:02:00,955
Så det skaber alle disse risici
en slags katastrofal skade
1418
01:02:00,988 --> 01:02:03,257
og samfundssammenbrud
gennem den retning.
1419
01:02:03,290 --> 01:02:05,092
Og så sidder vi lidt fast
mellem denne klippe
1420
01:02:05,125 --> 01:02:08,229
og et hårdt sted,
mellem "lås det op..."
1421
01:02:08,262 --> 01:02:09,897
(utydelig snak)
1422
01:02:11,131 --> 01:02:12,900
-...eller "lad det rive."
-(sirener hylder)
1423
01:02:12,933 --> 01:02:14,468
(folk råber)
1424
01:02:14,501 --> 01:02:18,038
Så vi må finde noget
som en smal sti
1425
01:02:18,072 --> 01:02:20,774
der undgår
disse to negative resultater.
1426
01:02:20,808 --> 01:02:23,277
Så hvis det hele er sandt,
hvorfor ville vi ikke bare sætte farten ned
1427
01:02:23,310 --> 01:02:26,380
og finde ud af alt dette
før det er for sent?
1428
01:02:26,413 --> 01:02:29,450
Hvis menneskeheden var ekstremt klog,
1429
01:02:29,483 --> 01:02:31,418
det ville vi gøre.
1430
01:02:31,452 --> 01:02:33,555
Men der er noget andet
måde at møde disse ting på, ikke?
1431
01:02:33,588 --> 01:02:36,457
Hvilket er:
Hvad er spillereglerne?
1432
01:02:36,490 --> 01:02:39,994
Meget af, hvad administrerende direktører gør
1433
01:02:40,027 --> 01:02:42,429
er drevet af
de incitamenter, de møder.
1434
01:02:42,463 --> 01:02:45,866
Det er primært
incitamenter til profitmaksimering
1435
01:02:45,899 --> 01:02:47,468
der kører
udviklingen af AI.
1436
01:02:47,501 --> 01:02:50,938
Selv de gode fyre sidder fast
i dette dilemma
1437
01:02:50,971 --> 01:02:53,107
hvis de bevæger sig for langsomt,
1438
01:02:53,140 --> 01:02:55,042
så forlader de sig selv
sårbare
1439
01:02:55,075 --> 01:02:57,478
til alle de andre fyre
der skærer alle hjørner.
1440
01:02:57,512 --> 01:03:02,316
Alle disse topvirksomheder er med
et komplet løb uden begrænsninger
1441
01:03:02,349 --> 01:03:06,153
at hurtigst muligt få
til AGI, kom dertil nu.
1442
01:03:06,186 --> 01:03:07,855
♪ ♪
1443
01:03:08,856 --> 01:03:10,924
LADISH: Ja, jeg mener,
Jeg tror det, jeg tror
1444
01:03:10,958 --> 01:03:13,460
det starter formentlig
med DeepMind.
1445
01:03:13,494 --> 01:03:15,195
NYSKUD:
Google køber
1446
01:03:15,229 --> 01:03:16,930
kunstig intelligensfirma
DeepMind Technologies.
1447
01:03:16,964 --> 01:03:18,932
Betingelser for aftalen
blev ikke afsløret.
1448
01:03:18,966 --> 01:03:21,168
ELON MUSK: Larry Page og jeg
plejede at være meget nære venner,
1449
01:03:21,201 --> 01:03:23,170
og det blev tydeligt for mig
1450
01:03:23,203 --> 01:03:26,608
at Larry var ligeglad
om AI-sikkerhed.
1451
01:03:26,641 --> 01:03:29,276
EMILY CHANG: Elon Musk har sagt
du startede OpenAI,
1452
01:03:29,310 --> 01:03:31,312
I startede begge OpenAI fordi
han var bange for Google.
1453
01:03:31,345 --> 01:03:32,614
LADISH: Du-dig i bund og grund
havde grundlaget
1454
01:03:32,647 --> 01:03:34,181
af OpenAI kommer ud af det.
1455
01:03:34,214 --> 01:03:35,482
"Så vi vil gøre det bedre.
Vi gør det
1456
01:03:35,517 --> 01:03:37,818
på en mere sikker måde
eller på en mere åben måde."
1457
01:03:39,019 --> 01:03:41,055
Så det var det, der startede OpenAI.
1458
01:03:41,088 --> 01:03:43,357
Og så nu, i stedet for
at have ét AGI-projekt,
1459
01:03:43,390 --> 01:03:45,225
du har to AGI-projekter.
1460
01:03:45,259 --> 01:03:47,328
Det værst tænkelige
det kunne ske
1461
01:03:47,361 --> 01:03:50,097
er hvis der er
flere AGI-projekter
1462
01:03:50,130 --> 01:03:52,266
udført af forskellige mennesker
som ikke kan lide hinanden
1463
01:03:52,299 --> 01:03:55,202
og alle konkurrerer
at komme til AGI først.
1464
01:03:55,235 --> 01:03:57,338
Dette ville være det værste
mulige ting, der kan ske,
1465
01:03:57,371 --> 01:04:00,407
fordi dette ville betyde
at den, der er mindst sikker,
1466
01:04:00,441 --> 01:04:03,477
hvem der ofrer mest
på sikkerhed for at komme videre
1467
01:04:03,511 --> 01:04:05,446
vil være personen
der kommer der først.
1468
01:04:05,479 --> 01:04:08,248
-DANIEL: Det er dybest set
hvad sker der, ikke? - Ja.
1469
01:04:08,282 --> 01:04:11,952
Dig og din bror
berømt forlod OpenAI, øh,
1470
01:04:11,985 --> 01:04:13,320
for at starte Anthropic.
1471
01:04:13,354 --> 01:04:15,422
RASKIN: Og så Antropisk
startede fordi
1472
01:04:15,456 --> 01:04:18,258
nogle forskere
inde i OpenAI sagde,
1473
01:04:18,292 --> 01:04:20,894
"Jeg vil af sted
og gør det mere sikkert."
1474
01:04:20,928 --> 01:04:24,064
Du havde brug for noget derudover
bare at skalere modellerne op,
1475
01:04:24,098 --> 01:04:26,233
som er justering eller sikkerhed.
1476
01:04:26,266 --> 01:04:28,001
HENDRYCKS:
"Vi er mere ansvarlige
1477
01:04:28,035 --> 01:04:30,170
eller mere troværdig
eller mere moralsk."
1478
01:04:30,204 --> 01:04:32,072
Nu har du tre AGI-projekter.
1479
01:04:32,106 --> 01:04:33,575
Men også siddende
bordet med dig
1480
01:04:33,608 --> 01:04:35,242
vil være en flok AI'er.
1481
01:04:35,275 --> 01:04:38,078
LADISH: Og nu er Meta-er
forsøger at gøre ting.
1482
01:04:38,112 --> 01:04:40,114
I mellemtiden en ny kunstig
efterretningskonkurrent
1483
01:04:40,147 --> 01:04:41,949
annonceret i denne uge,
Elon Musks...
1484
01:04:41,982 --> 01:04:45,119
HENDRYCKS: xAI, hvilket ville være
Elon Musks organisation.
1485
01:04:45,152 --> 01:04:46,688
MUSK:
Jeg stoler ikke på OpenAI.
1486
01:04:46,721 --> 01:04:48,489
Kampen mellem
Elon Musk og OpenAI
1487
01:04:48,523 --> 01:04:50,124
er gået ind i en ny runde.
1488
01:04:50,157 --> 01:04:52,192
Jeg stoler ikke på Sam Altman,
øh, og jeg, og jeg tror ikke
1489
01:04:52,226 --> 01:04:54,529
vi vil have mest
kraftfuld AI i verden
1490
01:04:54,562 --> 01:04:56,997
kontrolleret af nogen
som ikke er til at stole på.
1491
01:04:57,030 --> 01:04:58,999
(jubel og bifald)
1492
01:04:59,032 --> 01:05:02,136
Incitamentet er
uanede pengesummer.
1493
01:05:02,169 --> 01:05:04,004
-Ja.
- Er en uovertruffen magt.
1494
01:05:04,037 --> 01:05:06,006
-Ja.
- Er uovertruffen kontrol.
1495
01:05:06,039 --> 01:05:08,409
Hvis du har noget
det er en million gange smartere
1496
01:05:08,442 --> 01:05:12,012
og dygtigere end
alt andet på planeten Jorden
1497
01:05:12,045 --> 01:05:14,682
og ingen andre har det,
1498
01:05:14,716 --> 01:05:16,551
den ting er incitamentet.
1499
01:05:16,584 --> 01:05:18,118
Så du styrer verden.
1500
01:05:19,153 --> 01:05:21,021
Hvis du virkelig tror på dette,
1501
01:05:21,054 --> 01:05:23,223
hvis du virkelig i dit hjerte
tro dette,
1502
01:05:23,257 --> 01:05:24,526
så er du måske
villig til at tage
1503
01:05:24,559 --> 01:05:26,460
ret stor risiko
at få det til at ske.
1504
01:05:26,493 --> 01:05:29,329
Google har netop frigivet
sin nyeste AI-model.
1505
01:05:29,363 --> 01:05:31,699
Svaret på OpenAI's ChatGPT.
1506
01:05:31,733 --> 01:05:33,434
Hvordan kommer vi til
disse ti billioner?
1507
01:05:33,467 --> 01:05:35,502
Er NVIDIA ved at blive den mest
værdifuld virksomhed i USA?
1508
01:05:35,537 --> 01:05:39,574
Dette er den største forretning
mulighed i historien.
1509
01:05:39,607 --> 01:05:41,074
I historien.
1510
01:05:41,108 --> 01:05:42,710
Altså grunden
alle er virkelig hypede
1511
01:05:42,744 --> 01:05:45,179
om kunstig intelligens
lige nu
1512
01:05:45,212 --> 01:05:48,415
er fordi
jo mere hyper disse virksomheder
1513
01:05:48,449 --> 01:05:50,417
de potentielle muligheder
af deres teknologi,
1514
01:05:50,451 --> 01:05:53,555
jo mere investering
de kan tiltrække.
1515
01:05:53,588 --> 01:05:55,222
CARL QUINTANILLA:
Amazon investerer op til
1516
01:05:55,255 --> 01:05:57,592
fire milliarder dollars
i start-up Anthropic.
1517
01:05:57,625 --> 01:05:59,193
OpenAI sætter fokus
1518
01:05:59,226 --> 01:06:01,428
på en blockbuster halvdel
værdiansættelse af en billion dollar.
1519
01:06:01,462 --> 01:06:02,597
en halv billion!
1520
01:06:02,630 --> 01:06:03,731
Løbet er i gang.
1521
01:06:03,765 --> 01:06:05,165
Dette sker
hurtigere end nogensinde.
1522
01:06:05,199 --> 01:06:07,167
Er vi i en AI-boble?
Selvfølgelig.
1523
01:06:07,201 --> 01:06:09,537
Jeg kan bare ikke se
boblen brister
1524
01:06:09,571 --> 01:06:12,707
mens du stadig har
denne store udgiftscyklus.
1525
01:06:12,740 --> 01:06:15,409
RASKIN: Selv om du tror
det hele er hype,
1526
01:06:15,442 --> 01:06:18,145
der er milliarder
til billioner af dollars
1527
01:06:18,178 --> 01:06:21,482
flyder ind i at lave AI-systemer
mere kraftfuld.
1528
01:06:21,516 --> 01:06:24,351
Og når du først har den ting
det er mere kraftfuldt,
1529
01:06:24,384 --> 01:06:25,753
virksomheder kan bruge det
1530
01:06:25,787 --> 01:06:27,755
for at få større overskud
og for at tjene flere penge.
1531
01:06:27,789 --> 01:06:30,491
Lande kan bruge det
for at skabe stærkere militære.
1532
01:06:30,525 --> 01:06:33,293
NVIDIA har overhalet
Microsoft og Apple
1533
01:06:33,327 --> 01:06:36,564
at blive verdens
mest værdifulde virksomhed.
1534
01:06:36,598 --> 01:06:39,399
Kapløbet om at implementere bliver
kapløbet mod hensynsløshed,
1535
01:06:39,433 --> 01:06:42,302
fordi de ikke kan
implementere det så hurtigt
1536
01:06:42,336 --> 01:06:43,538
og også få det rigtigt.
1537
01:06:43,571 --> 01:06:46,440
Det tror de på
de er de gode fyre.
1538
01:06:46,473 --> 01:06:49,611
"Og hvis jeg ikke gør det,
nogen der ikke har
1539
01:06:49,644 --> 01:06:51,779
"så gode værdier som mig
vil sidde ved bordet
1540
01:06:51,813 --> 01:06:55,082
at tage beslutninger, så
Jeg har en forpligtelse til at gøre det."
1541
01:06:55,115 --> 01:06:56,551
Ja, det er det
en meget almindelig tro.
1542
01:06:56,584 --> 01:06:59,152
Mange, mange, mange,
måske de fleste mennesker
1543
01:06:59,186 --> 01:07:01,255
bygge denne teknologi
tro det.
1544
01:07:01,288 --> 01:07:04,258
Jeg er bekymret over
den kommercielle konkurrence,
1545
01:07:04,291 --> 01:07:06,393
men det viser sig
Jeg er endnu mere bekymret
1546
01:07:06,426 --> 01:07:08,428
den geopolitiske konkurrence.
1547
01:07:08,462 --> 01:07:10,665
Vi var otte år bagud
et år siden.
1548
01:07:10,698 --> 01:07:12,800
Nu er vi nok
mindre end et år bagud.
1549
01:07:12,834 --> 01:07:16,236
Nå, begge Saudi-Arabien
og UAE har kørt kapløb
1550
01:07:16,270 --> 01:07:18,673
at oprette datacentre
og positionere sig selv
1551
01:07:18,706 --> 01:07:20,675
som den dominerende kraft i kunstig intelligens...
1552
01:07:20,708 --> 01:07:22,710
...for at lave Sydkorea
en global AI-leder.
1553
01:07:22,744 --> 01:07:24,411
JULIA SIEGER:
Frankrigs præsident Emmanuel Macron
1554
01:07:24,444 --> 01:07:26,380
talte meget om
kunstig intelligens...
1555
01:07:26,413 --> 01:07:27,715
Nu med mere om Israels rolle
1556
01:07:27,749 --> 01:07:29,817
i den kunstige intelligens
revolution...
1557
01:07:29,851 --> 01:07:33,487
Lande vil konkurrere
for hvis AI-teknologier
1558
01:07:33,521 --> 01:07:35,355
skabe den næste generation
af industrien.
1559
01:07:35,389 --> 01:07:38,626
Kineserne insisterer
at AI,
1560
01:07:38,660 --> 01:07:40,360
som udviklet i Kina,
1561
01:07:40,394 --> 01:07:42,095
forstærke kerneværdierne
1562
01:07:42,129 --> 01:07:44,431
fra det kinesiske kommunistparti
og det kinesiske system.
1563
01:07:44,464 --> 01:07:49,269
Amerika skal slå Kina
i AI-løbet.
1564
01:07:49,303 --> 01:07:51,639
DANIEL: Kinas, ligesom,
lysår bagud.
1565
01:07:51,673 --> 01:07:53,240
Er de?
1566
01:07:53,273 --> 01:07:55,442
Jeg mener, de har meget mere
træningsdata end vi gør,
1567
01:07:55,475 --> 01:07:58,312
og der er intet, der siger dem
slip ikke en model næste måned
1568
01:07:58,345 --> 01:08:01,415
det er ikke--
ikke langt bedre end GPT-4.
1569
01:08:01,448 --> 01:08:04,318
Alt gik fint.
Hvad kunne gå galt?
1570
01:08:04,351 --> 01:08:07,254
-DeepSeek... (taler kinesisk)
-DeepSeek... -DeepSeek...
1571
01:08:07,287 --> 01:08:08,455
Der er en ny model.
1572
01:08:08,488 --> 01:08:11,325
Men fra et kinesisk laboratorium
kaldet DeepSeek.
1573
01:08:11,358 --> 01:08:14,428
Lad os tale om DeepSeek,
fordi det er åndssvagt,
1574
01:08:14,461 --> 01:08:18,231
og det ryster dette
hele branchen til sin kerne.
1575
01:08:18,265 --> 01:08:19,701
Trump-administrationen
vil sikre
1576
01:08:19,734 --> 01:08:23,470
at den mest magtfulde
AI-systemer er bygget i USA
1577
01:08:23,503 --> 01:08:27,174
med amerikansk designet
og fremstillede chips.
1578
01:08:27,207 --> 01:08:29,343
AI er Kinas
Apollo projekt.
1579
01:08:29,376 --> 01:08:30,745
Det kinesiske kommunistparti
1580
01:08:30,778 --> 01:08:32,179
forstår dybt potentialet
1581
01:08:32,212 --> 01:08:33,380
for AI til at forstyrre krigsførelse.
1582
01:08:33,413 --> 01:08:35,650
Google lover ikke længere
at det ikke vil
1583
01:08:35,683 --> 01:08:38,886
bruge kunstig intelligens
til våben eller overvågning.
1584
01:08:38,920 --> 01:08:40,487
Kina, Nordkorea, Rusland
1585
01:08:40,521 --> 01:08:42,222
vil blive ved med at bygge det
så hurtigt som muligt
1586
01:08:42,255 --> 01:08:44,792
for at få mere økonomisk fordel,
større produktivitetsfordel
1587
01:08:44,826 --> 01:08:47,361
mere videnskabelig fordel,
mere militær fordel,
1588
01:08:47,394 --> 01:08:48,896
fordi AI laver bedre våben.
1589
01:08:48,930 --> 01:08:52,299
Hvis du taler om
et så bredt og dygtigt system
1590
01:08:52,332 --> 01:08:53,635
som en genial videnskabsmand,
1591
01:08:53,668 --> 01:08:58,271
den kan måske køre
en militær kampagne
1592
01:08:58,305 --> 01:09:01,743
bedre end nogen af generalerne
i den amerikanske regering lige nu.
1593
01:09:01,776 --> 01:09:06,213
Taiwan er problemet at skabe
mest spænding lige nu
1594
01:09:06,246 --> 01:09:08,382
mellem Beijing og USA.
1595
01:09:08,415 --> 01:09:10,918
Der er en direkte
oppositionel uenighed
1596
01:09:10,952 --> 01:09:12,452
mellem USA og Kina
1597
01:09:12,486 --> 01:09:14,454
om Taiwan er
en del af Kina.
1598
01:09:14,488 --> 01:09:18,926
MATHENY: Taiwan er vigtigt
af så mange grunde.
1599
01:09:18,960 --> 01:09:20,828
Det er også hjemsted for
1600
01:09:20,862 --> 01:09:24,565
omkring 90 % af avanceret chip
produktion til verden,
1601
01:09:24,599 --> 01:09:28,903
hvilket betyder, at forsyningen
kæde til avanceret beregning
1602
01:09:28,936 --> 01:09:31,506
er i fare, hvis der er
1603
01:09:31,539 --> 01:09:33,440
en slags scenarie
omkring Taiwan,
1604
01:09:33,473 --> 01:09:37,712
om det er en blokade
eller en invasion af Kina.
1605
01:09:38,311 --> 01:09:40,948
HENDRYCKS:
Skal vi være i et eller andet kapløb
1606
01:09:40,982 --> 01:09:45,853
mellem USA og Kina
der til sidst overgår til
1607
01:09:45,887 --> 01:09:49,891
et militariseret AI-våbenkapløb og,
du ved, potentielt kundeemner
1608
01:09:49,924 --> 01:09:51,659
til en eller anden stor magtkonflikt?
1609
01:09:51,693 --> 01:09:53,493
NICK SCHIFRIN: Den udgående
øverste amerikanske militærchef
1610
01:09:53,528 --> 01:09:56,396
i regionen
spåede krig på vej.
1611
01:09:56,430 --> 01:09:58,432
Jeg tror, truslen er åbenbar
i løbet af dette årti,
1612
01:09:58,465 --> 01:09:59,967
faktisk i de næste seks år.
1613
01:10:00,001 --> 01:10:01,769
MATHENY:
Øh, et af scenarierne
1614
01:10:01,803 --> 01:10:06,406
som jeg bekymrer mig om er
en cyber flash krig,
1615
01:10:06,440 --> 01:10:11,445
um, en i hvilken
cyberværktøjer, der er autonome
1616
01:10:11,478 --> 01:10:13,447
konkurrerer mod hinanden
1617
01:10:13,480 --> 01:10:15,248
på måder, der er eskalerende
1618
01:10:15,282 --> 01:10:17,317
uden
meningsfuld menneskelig kontrol.
1619
01:10:19,386 --> 01:10:20,755
HARARI:
Du bor i en krigszone,
1620
01:10:20,788 --> 01:10:24,357
det vil være en AI, der bestemmer
om du skal bombe dit hus
1621
01:10:24,391 --> 01:10:26,326
og om du skal dræbe dig.
1622
01:10:26,359 --> 01:10:27,995
Lad os få maskinen til at bestemme.
1623
01:10:28,029 --> 01:10:29,731
Det er fristelsen.
1624
01:10:29,764 --> 01:10:32,867
Det er derfor AI er så fristende
for militærer at adoptere,
1625
01:10:32,900 --> 01:10:36,003
at skabe autonome våben,
fordi hvis jeg begynder at tro
1626
01:10:36,037 --> 01:10:39,607
at min militære modstander
vil adoptere AI,
1627
01:10:39,640 --> 01:10:42,375
det bliver et kapløb om, hvem der kan
tryk på aftrækkeren hurtigere.
1628
01:10:42,409 --> 01:10:45,445
Og den der automatiserer
den beslutning,
1629
01:10:45,479 --> 01:10:47,615
frem for at have
et menneske i løkken,
1630
01:10:47,648 --> 01:10:49,817
er den ene
der vil vinde den krig.
1631
01:10:49,851 --> 01:10:51,284
Og hvis man tænker sig om
1632
01:10:51,318 --> 01:10:53,755
atomvåbenkapløbet
i 1940'erne...
1633
01:10:54,689 --> 01:10:56,891
...du kender tyskerne
arbejder på bomben,
1634
01:10:56,924 --> 01:11:01,361
så det er ikke så nemt at sige
Robert Oppenheimer så,
1635
01:11:01,394 --> 01:11:04,031
"Øh, du ved, sæt farten ned."
1636
01:11:04,065 --> 01:11:05,900
Så efter at have set denne film,
det bliver forvirrende,
1637
01:11:05,933 --> 01:11:07,300
fordi du vil gå tilbage,
1638
01:11:07,334 --> 01:11:08,736
og i morgen
du vil bruge ChatGPT,
1639
01:11:08,770 --> 01:11:10,772
og det bliver det
utroligt hjælpsom.
1640
01:11:10,805 --> 01:11:12,974
Og jeg vil også bruge det, og
det vil være utrolig nyttigt.
1641
01:11:13,007 --> 01:11:16,611
Og du vil sige: "Vent, så
Jeg har lige set denne film om AI
1642
01:11:16,644 --> 01:11:18,513
"og eksistentiel risiko
og alle disse ting,
1643
01:11:18,546 --> 01:11:20,915
og hvor er truslen igen?"
1644
01:11:20,948 --> 01:11:24,986
Og det er ikke det, ChatGPT er
den eksistentielle trussel.
1645
01:11:25,019 --> 01:11:29,322
Det er kapløbet om at implementere
den mest magtfulde,
1646
01:11:29,356 --> 01:11:32,093
uudgrundelig,
ukontrollerbar teknologi,
1647
01:11:32,126 --> 01:11:35,630
under det værste
mulige incitamenter,
1648
01:11:35,663 --> 01:11:37,732
det er den eksistentielle trussel.
1649
01:11:38,398 --> 01:11:40,935
DANIEL:
Men det slår mig at-det
1650
01:11:40,968 --> 01:11:43,671
vi er i en kontekst af et løb.
1651
01:11:43,704 --> 01:11:46,473
-SUTSKEVER: Ja.
-Og det er i en konkurrence,
1652
01:11:46,507 --> 01:11:48,109
"må komme derhen først,
skal vinde løbet" indstilling,
1653
01:11:48,142 --> 01:11:49,544
"skal konkurrere mod Kina,
1654
01:11:49,577 --> 01:11:50,945
skulle konkurrere imod
de andre laboratorier."
1655
01:11:50,978 --> 01:11:52,412
Er det ikke rigtigt?
1656
01:11:52,445 --> 01:11:54,115
I dag er det tilfældet.
1657
01:11:54,148 --> 01:11:57,552
Så vi er nødt til at ændre os
den racedynamik.
1658
01:11:58,519 --> 01:12:00,487
Synes du ikke?
1659
01:12:00,521 --> 01:12:02,857
Det tror jeg ville være
rigtig godt.
1660
01:12:04,158 --> 01:12:06,928
Jeg-tror jeg
der er en slags...
1661
01:12:06,961 --> 01:12:10,064
mystik omkring AI
det får det til at føles som
1662
01:12:10,097 --> 01:12:11,999
det faldt ned fra himlen.
1663
01:12:12,033 --> 01:12:14,001
DANIEL: Tænker på det her
som en gudelignende teknologi
1664
01:12:14,035 --> 01:12:15,970
er et problem.
1665
01:12:16,003 --> 01:12:17,672
Ja.
1666
01:12:18,773 --> 01:12:20,473
Hvorfor?
1667
01:12:20,508 --> 01:12:23,544
Det giver licens
til virksomhederne...
1668
01:12:23,578 --> 01:12:26,714
(griner)
ikke tage ansvar
1669
01:12:26,747 --> 01:12:31,418
for de ting, som softwaren
som de byggede gør.
1670
01:12:31,451 --> 01:12:35,590
Hvis folk skabte den forbindelse,
1671
01:12:35,623 --> 01:12:37,859
måske ville det gerne,
hjælpe dem med at forstå igen
1672
01:12:37,892 --> 01:12:42,462
dynamikken i
alle pengene og magten og...
1673
01:12:42,495 --> 01:12:45,933
kaos der sker med...
1674
01:12:45,967 --> 01:12:47,602
skabe denne teknologi.
1675
01:12:47,635 --> 01:12:49,737
Det er ligesom fem fyre
hvem kontrollerer det, ikke?
1676
01:12:49,770 --> 01:12:52,139
- Ligesom fem mænd?
- Grundlæggende, ja.
1677
01:12:52,173 --> 01:12:54,642
-De administrerende direktører?
- Ja.
1678
01:12:54,675 --> 01:12:55,977
Okay.
1679
01:12:57,178 --> 01:12:59,580
♪ ♪
1680
01:13:01,616 --> 01:13:03,618
DANIEL:
Nogle gange føles det som
1681
01:13:03,651 --> 01:13:07,755
Jeg har været på dette
bare som en endeløs rejse
1682
01:13:07,788 --> 01:13:09,757
for at prøve at forstå dette.
1683
01:13:09,790 --> 01:13:12,994
Du ved, sådan
Jeg bestiger et bjerg...
1684
01:13:15,930 --> 01:13:19,634
...og hver gang
Jeg går ligesom op ad en bakke,
1685
01:13:19,667 --> 01:13:21,035
Jeg tror, jeg har nået toppen,
1686
01:13:21,068 --> 01:13:24,005
men det fortsætter bare
og går og går.
1687
01:13:24,038 --> 01:13:25,072
(kamera klikker, suser)
1688
01:13:25,106 --> 01:13:27,174
Men fra alt hvad jeg har hørt,
1689
01:13:27,208 --> 01:13:30,778
hvis jeg skulle gætte hvad der er
på toppen af angstbjerget,
1690
01:13:30,811 --> 01:13:34,682
det er disse fem administrerende direktører
fra disse fem virksomheder,
1691
01:13:34,715 --> 01:13:37,952
der er lidt ligesom
Oppenheimers af dette øjeblik.
1692
01:13:37,985 --> 01:13:40,054
Det er fyrene
hvem bygger denne ting.
1693
01:13:40,087 --> 01:13:41,454
Ja.
1694
01:13:41,488 --> 01:13:44,659
Ligesom, er der en plan?
1695
01:13:44,692 --> 01:13:46,827
Lederen af virksomheden
der gør ChatGPT
1696
01:13:46,861 --> 01:13:50,531
advaret om evt
betydelig skade på verden.
1697
01:13:50,564 --> 01:13:53,000
Jeg tror, hvis denne teknologi
går galt,
1698
01:13:53,034 --> 01:13:54,068
det kan gå helt galt.
1699
01:13:54,101 --> 01:13:56,237
(udbrud af tydelig snak)
1700
01:13:56,270 --> 01:13:58,072
DANIEL:
Fem fyre.
1701
01:13:58,105 --> 01:14:01,943
Jeg har aldrig tænkt på os
som social medievirksomhed.
1702
01:14:01,976 --> 01:14:06,814
Det føles som om jeg skal prøve
og-og find disse fyre...
1703
01:14:06,847 --> 01:14:07,515
Mm-hmm.
1704
01:14:07,548 --> 01:14:09,784
...og få dem med i filmen.
1705
01:14:10,584 --> 01:14:13,554
Det ville vi helt sikkert få
noget klarhed derfra.
1706
01:14:14,188 --> 01:14:15,723
(kamera klikker, suser)
1707
01:14:16,590 --> 01:14:19,860
Jeg mener, pengene skal stoppe
et sted, ikke?
1708
01:14:19,894 --> 01:14:21,862
(vinden suser)
1709
01:14:21,896 --> 01:14:23,731
♪ ♪
1710
01:14:24,398 --> 01:14:26,734
(værktøjer suser og klikker)
1711
01:14:27,668 --> 01:14:29,870
(sukker)
1712
01:14:34,608 --> 01:14:35,810
DANIEL:
Hvordan føles det?
1713
01:14:35,843 --> 01:14:38,212
-Stor.
- Er det okay?
1714
01:14:38,245 --> 01:14:39,847
- Ja.
-(utydelig besætningssnak)
1715
01:14:39,880 --> 01:14:41,582
-Kan jeg flytte sædet frem?
-DANIEL: Ja, det kan du.
1716
01:14:41,615 --> 01:14:42,717
Det er, øh, det er bare
lidt akavet.
1717
01:14:42,750 --> 01:14:43,985
Jeg er lidt sådan...
1718
01:14:44,018 --> 01:14:45,619
Dario, hvordan har du det
om den stol?
1719
01:14:45,653 --> 01:14:47,588
Øh, ja, stolen er god.
1720
01:14:47,621 --> 01:14:49,290
-Jeg ville bare flytte den
lidt frem. - Okay.
1721
01:14:49,323 --> 01:14:51,125
Jeg valgte den stol.
1722
01:14:51,158 --> 01:14:52,727
- Det er en god stol.
-Tak.
1723
01:14:52,760 --> 01:14:54,562
(mobiltelefonen ringer)
1724
01:14:58,332 --> 01:15:00,500
TED:
Og bare sæt dig ned der.
1725
01:15:02,036 --> 01:15:03,104
Og så igennem her,
1726
01:15:03,137 --> 01:15:05,006
vi vil se på hinanden
gennem dette glas.
1727
01:15:05,039 --> 01:15:07,074
(optaget signal bipper)
1728
01:15:11,879 --> 01:15:13,948
Og sidder tilbage i stolen,
læner sig frem?
1729
01:15:13,981 --> 01:15:15,683
- DANIEL: Ja. Nå, uanset hvad
behageligt, synes jeg. - Okay.
1730
01:15:15,716 --> 01:15:17,018
Det er lidt sejt.
Der er en masse spejle.
1731
01:15:17,051 --> 01:15:18,285
- Er det... okay.
-KVINDE: Sam A., tag en. Mærke.
1732
01:15:18,319 --> 01:15:19,920
- Hvordan er det?
-God. Tak.
1733
01:15:19,954 --> 01:15:21,622
DANIEL: Tilblivelsen
af dette projekt er, at jeg var
1734
01:15:21,655 --> 01:15:23,290
sidder derhjemme,
og jeg legede med,
1735
01:15:23,324 --> 01:15:24,859
Jeg tror, din billedgenerator,
1736
01:15:24,892 --> 01:15:27,762
og jeg var samtidig,
øh, bange
1737
01:15:27,795 --> 01:15:29,897
- og virkelig imponeret.
- (klukker sagte)
1738
01:15:29,930 --> 01:15:32,333
- Det er den sædvanlige kombination.
-Og så skær til
1739
01:15:32,366 --> 01:15:35,002
min kone og jeg finder ud af det
vi venter.
1740
01:15:35,036 --> 01:15:38,773
Og-og det har jeg ligesom
en eksistentiel krise
1741
01:15:38,806 --> 01:15:40,775
som min kone er
seks måneder gravid.
1742
01:15:40,808 --> 01:15:43,577
Og jeg tror mit første spørgsmål,
som jeg spørger alle:
1743
01:15:43,611 --> 01:15:46,080
Det er en frygtelig tid nu
at få et barn?
1744
01:15:46,113 --> 01:15:47,848
Begår jeg en stor fejl?
1745
01:15:47,882 --> 01:15:49,650
Jeg venter et barn
også i marts. Min første.
1746
01:15:49,683 --> 01:15:50,918
- Venter du et barn?
- Ja.
1747
01:15:50,951 --> 01:15:52,319
- Venter du i marts?
-Første barn.
1748
01:15:52,353 --> 01:15:53,788
-Mazel tov.
- Mange tak.
1749
01:15:53,821 --> 01:15:54,922
Jeg har aldrig været så begejstret
for hvad som helst.
1750
01:15:54,955 --> 01:15:57,091
- Sådan har jeg det.
- Ja.
1751
01:15:57,124 --> 01:15:58,759
Men du er ikke bange?
1752
01:15:58,793 --> 01:16:03,064
Jeg mener, ligesom at have et barn
netop denne betydningsfulde ting
1753
01:16:03,097 --> 01:16:05,633
at jeg, du ved,
Jeg er vågen hver nat, som
1754
01:16:05,666 --> 01:16:07,334
læse disse bøger om
hvordan man opdrager et barn,
1755
01:16:07,368 --> 01:16:08,769
og jeg håber
Jeg vil gøre et godt stykke arbejde,
1756
01:16:08,803 --> 01:16:09,804
og det føles
meget overvældende og--
1757
01:16:09,837 --> 01:16:12,673
men jeg er ikke bange...
1758
01:16:12,706 --> 01:16:14,675
for børn at vokse op
i en verden med AI.
1759
01:16:14,708 --> 01:16:16,811
Sådan, det er... det vil være okay.
1760
01:16:16,844 --> 01:16:19,280
Det er godt at høre
kommer fra fyren.
1761
01:16:19,313 --> 01:16:21,082
Jeg synes, det er en vidunderlig idé
at få børn.
1762
01:16:21,115 --> 01:16:23,784
Jeg tror, de er de fleste
magisk, utrolig ting.
1763
01:16:23,818 --> 01:16:25,820
-(sukker tungt)
- Der er så meget usikkerhed,
1764
01:16:25,853 --> 01:16:27,188
Det ville jeg næsten bare gøre
hvad du alligevel vil gøre.
1765
01:16:27,221 --> 01:16:29,223
Jeg ved, at det ikke er det
et meget tilfredsstillende svar,
1766
01:16:29,256 --> 01:16:32,359
men det er den eneste
jeg kan finde på.
1767
01:16:32,393 --> 01:16:34,929
Vores børn vil aldrig...
1768
01:16:34,962 --> 01:16:37,331
kender en verden, der ikke har
virkelig avanceret AI.
1769
01:16:37,364 --> 01:16:40,167
Det vil vores børn faktisk aldrig
være smartere end en AI.
1770
01:16:40,201 --> 01:16:42,703
DANIEL: "Vores børn vil
aldrig være klogere end en AI"?
1771
01:16:42,736 --> 01:16:44,839
Nå, fra en rå,
fra et råt IQ-perspektiv,
1772
01:16:44,872 --> 01:16:46,807
det bliver de aldrig
smartere end en AI.
1773
01:16:46,841 --> 01:16:48,309
Det gør den forestilling ikke
forurolige dig en smule?
1774
01:16:48,342 --> 01:16:51,712
For det får mig til at føle
lidt kvalm på en mærkelig måde.
1775
01:16:51,745 --> 01:16:55,316
Øh, det foruroliger mig
en lille smule.
1776
01:16:55,349 --> 01:16:56,817
Men det er virkeligheden.
1777
01:16:56,851 --> 01:16:58,819
DANIEL:
Okay, så racedynamik.
1778
01:16:58,853 --> 01:17:01,655
Vi har en flok mennesker
som alle er enige
1779
01:17:01,689 --> 01:17:03,190
at dette er skræmmende.
1780
01:17:03,224 --> 01:17:05,126
Baseret på de tidslinjer, der
mange mennesker har givet mig,
1781
01:17:05,159 --> 01:17:07,661
vi har mellem to måneder og
fem år til at finde ud af det.
1782
01:17:07,695 --> 01:17:09,063
- Ja.
-Og-og, tror jeg,
1783
01:17:09,096 --> 01:17:13,767
mit største spørgsmål er:
Hvorfor kan vi ikke bare stoppe?
1784
01:17:14,768 --> 01:17:19,340
Problemet med, øh, øh,
"bare at stoppe" er det, øh,
1785
01:17:19,373 --> 01:17:22,776
der er mange, mange grupper nu
rundt om i verden, øh, øh,
1786
01:17:22,810 --> 01:17:26,113
bygge dette, for
mange nationer, mange virksomheder,
1787
01:17:26,147 --> 01:17:28,749
øh, alle med
forskellige motivationer.
1788
01:17:28,782 --> 01:17:31,152
Der er nogle af
disse virksomheder i dette rum
1789
01:17:31,185 --> 01:17:34,455
hvem deres position er, "Vi vil have
at udvikle denne teknologi
1790
01:17:34,488 --> 01:17:36,323
absolut så hurtigt som muligt."
1791
01:17:36,357 --> 01:17:40,694
Og selvom vi kunne vedtage love
i USA og Europa,
1792
01:17:40,728 --> 01:17:42,897
vi skal overbevise...
1793
01:17:42,930 --> 01:17:45,266
Xi Jinping og Vladimir Putin
eller du ved,
1794
01:17:45,299 --> 01:17:47,968
hvem de end er videnskabelige
rådgivere er på deres side.
1795
01:17:48,002 --> 01:17:49,837
Det bliver rigtig svært.
1796
01:17:49,870 --> 01:17:51,238
Jeg tror, det er sandt
1797
01:17:51,272 --> 01:17:54,041
at hvis to personer er
på nøjagtig samme sted,
1798
01:17:54,074 --> 01:17:56,410
øh, den der er villig til at tage
flere genveje til sikkerhed
1799
01:17:56,443 --> 01:17:58,746
burde sådan set
"kom der først."
1800
01:17:58,779 --> 01:18:01,715
Øh, men...
1801
01:18:01,749 --> 01:18:03,284
vi er i stand til at bruge vores lead
1802
01:18:03,317 --> 01:18:06,720
at bruge meget mere tid
laver sikkerhedstest.
1803
01:18:06,754 --> 01:18:08,455
DANIEL:
Og hvad hvis du mister det?
1804
01:18:08,489 --> 01:18:10,057
Du får opkaldet
og du finder ud af det
1805
01:18:10,090 --> 01:18:12,092
at du er nu, lad os sige,
seks måneder bagud.
1806
01:18:12,126 --> 01:18:14,828
-Hvad-hvad sker der så?
- Det kommer an på, hvem vi er bagud til.
1807
01:18:14,862 --> 01:18:17,364
Hvis det er, som
en modstridende regering,
1808
01:18:17,398 --> 01:18:19,200
det er nok rigtig slemt.
1809
01:18:19,233 --> 01:18:21,902
Så lad os sige, at du får opkaldet
at Kina har en,
1810
01:18:21,936 --> 01:18:25,172
har en rekursivt
selvforbedrende middel
1811
01:18:25,206 --> 01:18:27,808
eller sådan noget, at vi
burde være virkelig bekymret.
1812
01:18:27,841 --> 01:18:30,010
Hvad gør-- hvad-hvad sker der?
1813
01:18:31,478 --> 01:18:33,113
Øh...
1814
01:18:35,950 --> 01:18:37,484
Den sag ville kræve...
1815
01:18:37,519 --> 01:18:41,088
det første skridt ville være
at tale med den amerikanske regering.
1816
01:18:41,121 --> 01:18:43,457
Sam, stoler du på
regeringens evne til at håndtere
1817
01:18:43,490 --> 01:18:45,292
sådan noget?
1818
01:18:46,427 --> 01:18:48,162
Ja, det gør jeg faktisk.
1819
01:18:48,195 --> 01:18:50,030
Der er andre ting, jeg ikke gør
stole på, at regeringen håndterer
1820
01:18:50,064 --> 01:18:51,832
men det særlige scenarie,
Jeg tror, de ville vide...
1821
01:18:51,865 --> 01:18:53,167
de-de-- ja.
1822
01:18:53,200 --> 01:18:54,969
DANIEL: Når du har,
som private diskussioner
1823
01:18:55,002 --> 01:18:56,937
med de andre fyre, hvis
fingrene er på aftrækkeren,
1824
01:18:56,971 --> 01:19:00,241
så at sige, øh,
lav de private diskussioner
1825
01:19:00,274 --> 01:19:01,875
fylde dig med selvtillid
1826
01:19:01,909 --> 01:19:03,545
eller gør de dig,
øh, mere ængstelig?
1827
01:19:03,578 --> 01:19:07,414
Hør, jeg mener, jeg kender nogle
af dem bedre end andre.
1828
01:19:07,448 --> 01:19:10,417
Øh, jeg har mere selvtillid
i nogle af dem, end jeg har
1829
01:19:10,451 --> 01:19:12,920
i andre, du ved,
som med, som med alle mennesker.
1830
01:19:12,953 --> 01:19:14,388
du ved,
du tænker på, du ved,
1831
01:19:14,421 --> 01:19:16,223
børnene i dit gymnasium
klasse eller noget, ikke?
1832
01:19:16,257 --> 01:19:18,526
Du ved, nogle af dem er,
du ved, rigtig sød.
1833
01:19:18,560 --> 01:19:20,961
Nogle af dem er velmenende
men ikke så effektivt.
1834
01:19:20,995 --> 01:19:22,930
Nogle af dem er,
du ved, bøller.
1835
01:19:22,963 --> 01:19:24,198
Nogle af dem er
virkelig dårlige mennesker.
1836
01:19:24,231 --> 01:19:26,300
(stammer)
Du-du slags virkelig,
1837
01:19:26,333 --> 01:19:27,535
du ser virkelig spredningen.
1838
01:19:27,569 --> 01:19:29,236
Du ved, er jeg, er jeg,
er jeg sikker
1839
01:19:29,270 --> 01:19:31,071
som alle vil gøre
det rigtige,
1840
01:19:31,105 --> 01:19:32,540
at det hele kommer til at lykkes?
1841
01:19:32,574 --> 01:19:34,241
Øh, nej, det er jeg ikke.
1842
01:19:34,275 --> 01:19:36,010
Og der er - der er ingenting
Det kan jeg godt gøre ved, ikke?
1843
01:19:36,043 --> 01:19:38,379
Du ved, alt hvad jeg kan gøre
er-er skub for,
1844
01:19:38,412 --> 01:19:39,813
skubbe til, du ved,
1845
01:19:39,847 --> 01:19:41,181
presse på for regeringen
at engagere sig.
1846
01:19:41,215 --> 01:19:43,150
Men i sidste ende er jeg bare
en person der også.
1847
01:19:43,183 --> 01:19:44,586
det er--
det er-det er op til os alle
1848
01:19:44,619 --> 01:19:46,353
at presse på for regeringen
at engagere sig.
1849
01:19:46,387 --> 01:19:49,023
Det er nummer et
det - det synes jeg, vi skal gøre
1850
01:19:49,056 --> 01:19:51,292
to-to, du ved, at sætte tingene op
i den rigtige retning.
1851
01:19:51,325 --> 01:19:53,160
Hvad gør mig ængstelig
om det er, som
1852
01:19:53,193 --> 01:19:56,463
den grundlæggende virkelighed, som
hastighed, hvormed teknologien
1853
01:19:56,497 --> 01:19:58,966
spreder sig og vokser
er eksponentiel,
1854
01:19:58,999 --> 01:20:02,002
og mekanismerne til at lovgive
er 300 år,
1855
01:20:02,036 --> 01:20:03,304
- tage for evigt.
- Ja.
1856
01:20:03,337 --> 01:20:05,573
Øh, tror jeg
det bliver et tungt løft.
1857
01:20:05,607 --> 01:20:07,274
Jeg er helt enig
med dig på det.
1858
01:20:07,308 --> 01:20:09,276
DANIEL: Du ved,
hvad jeg bogstaveligt talt leder efter
1859
01:20:09,310 --> 01:20:11,513
er-er ligesom,
"Her er trin, som f.eks.
1860
01:20:11,546 --> 01:20:15,449
"hovedhonchoerne kommer til at gøre det
tage to-for at fokusere på sikkerhed,
1861
01:20:15,482 --> 01:20:18,586
for at afbøde faren
og maksimer løftet."
1862
01:20:18,620 --> 01:20:20,588
Og det gør jeg ikke,
Jeg ved det ikke, jeg ved det ikke
1863
01:20:20,622 --> 01:20:22,423
at der er
et simpelt svar på det.
1864
01:20:22,456 --> 01:20:24,091
Øh...
1865
01:20:26,360 --> 01:20:28,262
Jeg mener, det er det måske
for simpelt,
1866
01:20:28,295 --> 01:20:30,632
men du...
1867
01:20:30,665 --> 01:20:32,333
skabe en ny model,
1868
01:20:32,366 --> 01:20:35,202
du studerer og tester det
meget omhyggeligt.
1869
01:20:35,235 --> 01:20:37,871
Du lægger den ud
gradvist ud i verden,
1870
01:20:37,905 --> 01:20:40,074
og så, mere og mere,
du forstår
1871
01:20:40,107 --> 01:20:41,875
om det er sikkert eller ej,
og hvis det så er,
1872
01:20:41,909 --> 01:20:43,377
du kan tage det næste skridt.
1873
01:20:44,445 --> 01:20:47,414
Det lyder ikke så prangende
som en genial videnskabsmand
1874
01:20:47,448 --> 01:20:50,652
komme med én idé i en
laboratorium til at lave et AI-system, som,
1875
01:20:50,685 --> 01:20:54,355
helt sikker og kontrollerbar
og alt det andet,
1876
01:20:54,388 --> 01:20:56,190
men det er hvad jeg tror
kommer til at ske.
1877
01:20:56,223 --> 01:20:57,559
Ligesom det er vejen
Jeg tror, det her virker.
1878
01:20:57,592 --> 01:20:59,561
Men lad os bare sige
der sker noget frygteligt,
1879
01:20:59,594 --> 01:21:02,429
som en model bliver løs
eller går slyngel eller noget.
1880
01:21:02,463 --> 01:21:04,031
Er der en protokol?
1881
01:21:04,064 --> 01:21:06,266
Som, bogstaveligt talt,
Jeg forestiller mig en rød telefon.
1882
01:21:06,300 --> 01:21:07,635
- Ja.
- Undskyld jeg tænker på det her
1883
01:21:07,669 --> 01:21:09,103
med hensyn til film, men ligesom...
1884
01:21:09,136 --> 01:21:10,371
Der er en protokol.
1885
01:21:10,404 --> 01:21:12,039
- Er der en rød telefon
på dit skrivebord? -Ingen.
1886
01:21:12,072 --> 01:21:13,508
(griner):
Er det en hemmelighed?
1887
01:21:13,541 --> 01:21:15,643
Jeg mener, øh, nej, det er det ikke,
det er ikke så fancy eller dramatisk
1888
01:21:15,677 --> 01:21:17,512
som du gerne ville håbe,
men der er ligesom, du ved...
1889
01:21:17,545 --> 01:21:19,279
vi har ligesom tænkt igennem
disse scenarier,
1890
01:21:19,313 --> 01:21:21,081
og hvis dette sker,
vi ringer til disse mennesker
1891
01:21:21,115 --> 01:21:22,349
i denne rækkefølge og gør dette
1892
01:21:22,383 --> 01:21:24,017
og slags fabrikat
disse beslutninger, hvis f.eks.--
1893
01:21:24,051 --> 01:21:26,387
Det tror jeg på
når du har mulighed
1894
01:21:26,420 --> 01:21:29,423
at gøre dine tanker før
en stressende situation opstår,
1895
01:21:29,456 --> 01:21:30,991
det er næsten altid
en god idé.
1896
01:21:31,024 --> 01:21:32,226
Og at skrive det ned er nyttigt.
1897
01:21:32,259 --> 01:21:34,128
- Det hjælper at være forberedt.
- Ja.
1898
01:21:34,962 --> 01:21:36,397
(suk) Du...
1899
01:21:36,430 --> 01:21:39,233
Det ville være umuligt
for mig at sidde overfor dig
1900
01:21:39,266 --> 01:21:41,669
og-og beder dig om at love mig
at det her kommer til at gå godt?
1901
01:21:41,703 --> 01:21:43,504
Det er umuligt.
1902
01:21:44,104 --> 01:21:46,173
Der er ingen nemme svar,
desværre.
1903
01:21:46,206 --> 01:21:48,442
Øh, fordi det er sådan
en banebrydende teknologi,
1904
01:21:48,475 --> 01:21:50,244
øh, der er stadig
en masse ubekendte.
1905
01:21:50,277 --> 01:21:52,714
Og det synes jeg
det skal det være,
1906
01:21:52,747 --> 01:21:55,416
øh, du ved, forstået
1907
01:21:55,449 --> 01:21:59,554
og - og dermed behovet
for, øh, øh, en vis forsigtighed.
1908
01:21:59,587 --> 01:22:01,288
Jeg vågner, du ved, hver dag,
1909
01:22:01,321 --> 01:22:04,024
dette er, dette er
nummer én ting jeg tænker på.
1910
01:22:04,057 --> 01:22:05,459
Se nu, jeg er et menneske,
1911
01:22:05,492 --> 01:22:08,596
og, du ved, har-har
hver beslutning været perfekt?
1912
01:22:08,630 --> 01:22:12,166
Kan jeg endda sige mine motiver
altid var helt klar?
1913
01:22:12,199 --> 01:22:14,101
Selvfølgelig ikke.
Det kan ingen sige.
1914
01:22:14,134 --> 01:22:17,004
Sådan, det er det
bare ikke, sådan som du ved...
1915
01:22:17,037 --> 01:22:19,173
det er-det er det bare ikke
hvordan mennesker arbejder.
1916
01:22:19,206 --> 01:22:21,408
Videnskabens historie
plejer at være det,
1917
01:22:21,442 --> 01:22:23,745
på godt og ondt,
hvis noget er muligt at gøre--
1918
01:22:23,778 --> 01:22:27,414
og vi ved nu, at AI er muligt
at gøre - menneskeheden gør det.
1919
01:22:27,448 --> 01:22:30,217
Alt dette
skulle ske.
1920
01:22:30,250 --> 01:22:32,587
Dette - dette tog
vil ikke stoppe.
1921
01:22:32,620 --> 01:22:34,722
Du kan ikke træde foran
toget og standser det.
1922
01:22:34,756 --> 01:22:36,724
Du bliver bare klemt.
1923
01:22:36,758 --> 01:22:39,226
ALTMAN:
Jeg mener, det er meget stressende.
1924
01:22:40,194 --> 01:22:41,462
Du ved, der er ligesom
1925
01:22:41,495 --> 01:22:43,197
en masse ting
mange af os ved det ikke.
1926
01:22:43,230 --> 01:22:47,000
Jeg tror historien
af videnskabelig opdagelse er
1927
01:22:47,034 --> 01:22:48,736
en af ikke at vide
hvad du ikke ved
1928
01:22:48,770 --> 01:22:50,204
og finde ud af, mens du går.
1929
01:22:50,237 --> 01:22:53,575
Øh, men ja, det er en...
1930
01:22:53,608 --> 01:22:55,976
det er en stressende måde at leve på.
1931
01:22:56,811 --> 01:22:59,246
DANIEL: Ja. Sam, tak
meget for at gøre dette.
1932
01:22:59,279 --> 01:23:01,081
-Og igen, mazel tov.
- Tak skal du have. Og til dig.
1933
01:23:01,114 --> 01:23:03,383
Mange tak. Tak, gutter.
1934
01:23:03,417 --> 01:23:06,253
♪ ♪
1935
01:23:08,388 --> 01:23:09,990
(suk)
1936
01:23:11,593 --> 01:23:13,528
(elektricitet knitrende)
1937
01:23:13,561 --> 01:23:16,363
-(torden slår)
- (humler, grynter)
1938
01:23:43,190 --> 01:23:45,392
-(VCR-klik)
-(linje ringer)
1939
01:23:48,328 --> 01:23:49,797
-(linjeklik)
-KEVIN ROHER: Hej.
1940
01:23:49,831 --> 01:23:51,131
DANIEL:
Hej, far, hvordan har du det?
1941
01:23:51,164 --> 01:23:52,165
KEVIN:
Godt. Hvordan har du det?
1942
01:23:52,199 --> 01:23:53,500
Arbejder du? Hvad har du gang i?
1943
01:23:53,535 --> 01:23:55,770
DANIEL:
Jeg arbejder på denne AI-film.
1944
01:23:55,803 --> 01:23:58,305
KEVIN:
Og hvordan går det?
1945
01:23:58,338 --> 01:24:00,708
DANIEL:
Du ved, det... det er virkelig...
1946
01:24:00,742 --> 01:24:02,544
-JOANNE ROHER: Hej, søde.
-DANIEL: Hej, mor.
1947
01:24:02,577 --> 01:24:04,344
JOANNE: Så hvad er det
filmens præmis?
1948
01:24:04,378 --> 01:24:07,180
Er det en dokumentar?
Kev, brug ikke flere krydderier.
1949
01:24:07,214 --> 01:24:08,816
Det er allerede overkrydret.
1950
01:24:08,850 --> 01:24:10,718
Vi laver kylling lige nu.
1951
01:24:10,752 --> 01:24:13,186
-Er det en dokumentar eller hvad...
-DANIEL: Det handler om--
1952
01:24:13,220 --> 01:24:14,421
filmen handler om
verdens ende.
1953
01:24:14,454 --> 01:24:16,290
Enden på verdens komme,
1954
01:24:16,323 --> 01:24:18,158
og vi laver en film
om verdens ende.
1955
01:24:18,191 --> 01:24:20,327
- JOANNE: Virkelig?
-DANIEL: Ja.
1956
01:24:20,360 --> 01:24:22,162
KEVIN: Slags en deprimerende
film, lyder det som.
1957
01:24:22,195 --> 01:24:23,698
JOANNE:
Ja.
1958
01:24:23,731 --> 01:24:29,436
DANIEL: Jeg har det meget,
som-- denne meget akutte angst.
1959
01:24:29,469 --> 01:24:31,673
JOANNE: Det er så skræmmende,
men der skal være--
1960
01:24:31,706 --> 01:24:35,810
du ved, har du mødtes
nogle-nogle supersmarte mennesker
1961
01:24:35,843 --> 01:24:38,312
som giver dig nogle svar?
1962
01:24:38,345 --> 01:24:40,113
DANIEL: Det er det, der er
frustrerende over det.
1963
01:24:40,147 --> 01:24:41,683
Ingen ved det.
1964
01:24:41,716 --> 01:24:44,384
JOANNE:
Det eneste, jeg kan sige til det, er det
1965
01:24:44,418 --> 01:24:50,190
hver generation har haft
noget skræmmende som dette.
1966
01:24:50,223 --> 01:24:52,760
KEVIN: Da jeg blev født, var det
Cubanskrisen.
1967
01:24:52,794 --> 01:24:54,596
(stabilt hjerteslag)
1968
01:24:54,629 --> 01:24:56,864
Jeg var bare bange for det der
skulle blive en atomkrig.
1969
01:24:56,898 --> 01:24:58,298
JOANNE:
Ja, men vi vidste det ikke
1970
01:24:58,332 --> 01:24:59,534
hvad de skulle gøre og...
1971
01:24:59,567 --> 01:25:01,168
KEVIN:
Og verden sluttede ikke.
1972
01:25:01,201 --> 01:25:02,202
Alle vågnede
næste morgen,
1973
01:25:02,235 --> 01:25:03,871
og vi gør stadig vores ting.
1974
01:25:03,905 --> 01:25:05,439
DANIEL:
Jeg er meget bange,
1975
01:25:05,472 --> 01:25:07,407
især i
sammenhængen af f.eks.
1976
01:25:07,441 --> 01:25:09,577
-du ved, babyen og...
-(fosterets hjerteslag pulserer)
1977
01:25:09,611 --> 01:25:11,178
KEVIN:
Det bliver en læringskurve.
1978
01:25:11,211 --> 01:25:12,479
JOANNE:
Du skal nok klare dig.
1979
01:25:12,513 --> 01:25:13,681
KEVIN: Det kan du ikke,
du kan ikke tænke dig om
1980
01:25:13,715 --> 01:25:14,849
hvad du ikke kan kontrollere, Daniel.
1981
01:25:14,882 --> 01:25:16,551
Bare husk det.
1982
01:25:16,584 --> 01:25:18,251
DANIEL (stemmebrud):
Jeg er virkelig, jeg føler virkelig
1983
01:25:18,285 --> 01:25:19,587
nervøs og bange for det.
1984
01:25:19,621 --> 01:25:21,488
Der er så meget
som jeg ikke kan kontrollere.
1985
01:25:21,522 --> 01:25:24,358
KEVIN: Vær ikke nervøs.
Du kan ikke lade det komme til dig.
1986
01:25:24,391 --> 01:25:26,794
Du kan kun kontrollere
hvad du kan kontrollere,
1987
01:25:26,828 --> 01:25:28,395
og det er alt, hvad du kan gøre.
1988
01:25:28,428 --> 01:25:31,231
Du kan ikke gøre mere end det.
1989
01:25:31,264 --> 01:25:33,433
Skriv det ned i din bog.
1990
01:25:35,870 --> 01:25:37,572
♪ ♪
1991
01:25:44,712 --> 01:25:47,447
(fosterets hjerteslag pulserer)
1992
01:25:47,481 --> 01:25:49,651
(hylende)
1993
01:25:49,684 --> 01:25:52,219
CAROLINE:
Når du ser tilbage,
1994
01:25:52,252 --> 01:25:54,922
verden slutter altid.
1995
01:25:54,956 --> 01:25:57,357
Og når du ser fremad,
1996
01:25:57,391 --> 01:25:59,627
verden slutter altid.
1997
01:25:59,661 --> 01:26:02,429
... i brand.
Et hjem er allerede i brand...
1998
01:26:02,462 --> 01:26:06,299
CAROLINE: Men verden
starter også altid.
1999
01:26:08,402 --> 01:26:10,437
DANIEL:
Er du klar?
2000
01:26:10,470 --> 01:26:12,674
Er du nogensinde virkelig klar?
2001
01:26:16,443 --> 01:26:18,278
DANIEL: Du vil køre
eller vil du have mig til at køre?
2002
01:26:18,311 --> 01:26:19,547
CAROLINE:
Du kører.
2003
01:26:20,815 --> 01:26:22,382
-(kvinde taler utydeligt)
-CAROLINE: Okay.
2004
01:26:22,416 --> 01:26:24,284
DANIEL:
Tak, Maria.
2005
01:26:24,317 --> 01:26:26,654
KVINDE: Det bliver bare
føler mig virkelig krampagtig.
2006
01:26:26,688 --> 01:26:28,355
-CAROLINE: Okay.
-KVINDE: Er du klar?
2007
01:26:28,388 --> 01:26:29,691
-CAROLINE: Ja.
-(utydelig snak)
2008
01:26:29,724 --> 01:26:30,958
(Caroline sukker tungt)
2009
01:26:30,992 --> 01:26:33,326
KVINDE: Du kunne være i en
medicinsk drama med alt det...
2010
01:26:34,595 --> 01:26:36,597
♪ ♪
2011
01:26:44,706 --> 01:26:46,607
-(statiske krakeleringer)
-(utydelig snak)
2012
01:26:49,610 --> 01:26:51,746
KVINDE:
...en vis pres.
2013
01:26:53,313 --> 01:26:54,749
Slap af.
2014
01:26:57,451 --> 01:26:59,821
-(baby græder)
-(enheden bipper)
2015
01:27:02,623 --> 01:27:05,626
DANIEL:
Hej, ven. Åh.
2016
01:27:05,660 --> 01:27:06,961
Hej, ven.
2017
01:27:06,994 --> 01:27:09,362
♪ ♪
2018
01:27:31,652 --> 01:27:34,321
KEVIN:
Det bliver en helt ny verden
2019
01:27:34,354 --> 01:27:35,723
til dig, Daniel.
2020
01:27:37,658 --> 01:27:40,762
Og det tror jeg, du bliver
en fantastisk far.
2021
01:27:41,863 --> 01:27:44,899
JOANNE (griner):
Det er helt sikkert.
2022
01:27:44,932 --> 01:27:47,068
-(Kevin græder)
-Åh.
2023
01:27:47,101 --> 01:27:49,302
(gråden fortsætter)
2024
01:27:49,336 --> 01:27:51,572
KEVIN:
Du vil gøre et godt stykke arbejde.
2025
01:27:52,206 --> 01:27:53,541
JOANNE:
Kev, hvorfor græder du?
2026
01:27:53,574 --> 01:27:55,076
KEVIN:
Jeg græder fordi...
2027
01:27:55,109 --> 01:27:57,545
Jeg ved det ikke. Jeg gør bare ikke...
2028
01:27:57,578 --> 01:27:59,914
DANIEL: Far, det skal du
få mig også til at græde.
2029
01:27:59,947 --> 01:28:01,549
Hvorfor græder du?
2030
01:28:03,651 --> 01:28:05,853
KEVIN: Jeg ved det bare
du bliver en fantastisk far.
2031
01:28:05,887 --> 01:28:07,655
DANIEL (græder):
Jeg bliver kun en god far
2032
01:28:07,688 --> 01:28:09,957
fordi jeg havde en fantastisk far.
2033
01:28:09,991 --> 01:28:12,894
KEVIN: Jeg bliver følelsesladet,
det er alt.
2034
01:28:12,927 --> 01:28:14,327
JOANNE:
Av.
2035
01:28:14,361 --> 01:28:15,462
(legende snak over video)
2036
01:28:15,495 --> 01:28:17,064
(over video):
Dreng, oh, dreng!
2037
01:28:17,098 --> 01:28:18,633
min godhed!
2038
01:28:19,267 --> 01:28:21,035
Se på de små frække.
2039
01:28:21,068 --> 01:28:25,573
Se på de små frække.
Se på de små frække.
2040
01:28:25,606 --> 01:28:26,741
Ja.
2041
01:28:26,774 --> 01:28:29,376
DANIEL:
Jeg ved, hvordan jeg afslutter denne film.
2042
01:28:30,011 --> 01:28:31,712
Babyer.
2043
01:28:32,379 --> 01:28:35,883
- Slutningen af filmen handler om
babyer. -(snak over videoer)
2044
01:28:35,917 --> 01:28:37,618
De er livsbekræftende.
2045
01:28:37,652 --> 01:28:39,486
De er udmattende.
2046
01:28:39,520 --> 01:28:41,421
-(baby griner)
-De er sjove.
2047
01:28:41,454 --> 01:28:42,957
Og de er det værd.
2048
01:28:42,990 --> 01:28:46,828
Denne film handler ikke om
en teknologis indre funktion.
2049
01:28:46,861 --> 01:28:48,696
Det handler ikke om
milliardærens administrerende direktører.
2050
01:28:48,729 --> 01:28:50,665
Det handler ikke om geopolitikken.
2051
01:28:50,698 --> 01:28:53,935
Det handler ikke om det skræmmende
fremtid eller verdens undergang,
2052
01:28:53,968 --> 01:28:56,137
fordi min verden
er lige begyndt.
2053
01:28:56,170 --> 01:28:57,972
Jeg bygger en tremmeseng.
2054
01:28:58,005 --> 01:28:59,907
Lige her, lige nu.
2055
01:28:59,941 --> 01:29:01,008
(baby kurrer)
2056
01:29:01,042 --> 01:29:02,743
AI kommer til at ændre alt
2057
01:29:02,777 --> 01:29:05,913
på måder, der er for kraftfulde og
kompliceret for os at forstå.
2058
01:29:05,947 --> 01:29:09,717
Og fremtiden er det ikke
for enhver af os at bestemme.
2059
01:29:10,818 --> 01:29:13,921
Men det, jeg kan beslutte, er at være
den bedst mulige mand
2060
01:29:13,955 --> 01:29:17,992
for min kone og den bedste
mulig far til min søn.
2061
01:29:18,025 --> 01:29:21,796
Så om vores AI-fremtid er
en mareridtsagtig dystopi
2062
01:29:21,829 --> 01:29:24,098
eller utopien
som vi alle drømmer om,
2063
01:29:24,131 --> 01:29:27,134
Jeg ved i det mindste det
at jeg gjorde alt, hvad jeg kunne
2064
01:29:27,168 --> 01:29:30,605
at vejlede min familie
gennem denne AI-revolution.
2065
01:29:30,638 --> 01:29:34,474
Og uanset hvad,
vi skal møde det sammen.
2066
01:29:34,508 --> 01:29:35,877
(opløftende musik svulmer)
2067
01:29:35,910 --> 01:29:37,444
(musikken stopper brat)
2068
01:29:37,477 --> 01:29:40,047
DANIEL:
Så det er bare vores første idé.
2069
01:29:40,715 --> 01:29:43,084
Hvordan føles dette?
Føler du det?
2070
01:29:43,117 --> 01:29:45,720
Vent, jeg-- ligesom, det er ikke--
dette er en joke.
2071
01:29:45,753 --> 01:29:48,388
Det er det faktisk ikke
hvordan du vil afslutte det.
2072
01:29:50,591 --> 01:29:53,160
Jeg mener, det er bare en idé. Okay?
2073
01:29:53,194 --> 01:29:54,996
Nej, Daniel.
2074
01:29:55,029 --> 01:29:56,631
... øh, meget, meget dumt.
2075
01:29:56,664 --> 01:29:59,166
Du har lige brugt, det gør jeg ikke
ved, hvor mange år
2076
01:29:59,200 --> 01:30:03,104
af vores liv arbejder på dette,
taler med alle førende eksperter
2077
01:30:03,137 --> 01:30:05,539
på planeten om emnet,
2078
01:30:05,573 --> 01:30:08,175
og du vil afslutte det
2079
01:30:08,209 --> 01:30:11,444
med nogle, som
kumbaya lort?
2080
01:30:11,478 --> 01:30:14,048
Der er en asteroide
på vej til Jorden.
2081
01:30:14,081 --> 01:30:15,917
Hvad laver du? Bare...
2082
01:30:15,950 --> 01:30:18,152
holde i hånden
og håber det lykkes?
2083
01:30:18,185 --> 01:30:19,854
Absolut ikke.
2084
01:30:19,887 --> 01:30:22,924
Vi er nødt til--det ha--
det skal være...
2085
01:30:22,957 --> 01:30:25,026
Slutningen skal...
2086
01:30:26,493 --> 01:30:28,529
CAROLINE:
Okay, første ting:
2087
01:30:28,562 --> 01:30:32,033
AI er her,
og det er kommet for at blive.
2088
01:30:32,066 --> 01:30:33,534
lortet er ude af hesten,
2089
01:30:33,567 --> 01:30:36,436
men hesten er
bliver ved med at skide.
2090
01:30:38,873 --> 01:30:39,807
(publikum jubler)
2091
01:30:39,840 --> 01:30:41,943
Du ved, en af de grundlæggende
historiens love
2092
01:30:41,976 --> 01:30:44,578
er det ingenting
virkelig have en begyndelse
2093
01:30:44,612 --> 01:30:46,580
og intet har nogen ende.
2094
01:30:46,614 --> 01:30:48,049
Det fortsætter bare.
2095
01:30:48,082 --> 01:30:50,918
AI er ikke i nærheden
dens fulde udvikling.
2096
01:30:50,952 --> 01:30:53,087
CAROLINE: Selvom
den nuværende AI-boble brister,
2097
01:30:53,120 --> 01:30:54,956
-mennesker vil aldrig stoppe
-(støjmageren blæser)
2098
01:30:54,989 --> 01:30:57,959
bygger mere og mere
kraftfuld teknologi.
2099
01:30:57,992 --> 01:30:59,827
HAO:
Du kan vælge ikke at bruge AI
2100
01:30:59,860 --> 01:31:02,730
eller deltage i det, men det er det
vil påvirke dig alligevel.
2101
01:31:02,763 --> 01:31:04,231
DANIEL: Okay, fantastisk.
Så vi er skruet sammen.
2102
01:31:04,265 --> 01:31:07,568
CAROLINE: Nej, det er vi ikke
på grund af en simpel ting.
2103
01:31:11,572 --> 01:31:13,574
Dette er ikke uundgåeligt.
2104
01:31:13,607 --> 01:31:15,576
Hvis vi bare kunne se det
klart sammen,
2105
01:31:15,609 --> 01:31:18,813
det åbenlyse svar vil være
at vælge noget andet.
2106
01:31:18,846 --> 01:31:21,615
Det skal vi meget klart
ændre spillet
2107
01:31:21,649 --> 01:31:23,517
fra et kapløb til bunden
ind i et kapløb til toppen.
2108
01:31:23,551 --> 01:31:27,855
LEAHY: Det problem, vi skal
solve er ikke AI specifikt.
2109
01:31:27,888 --> 01:31:31,726
Det er det generelle spørgsmål
hvordan bygger vi et samfund
2110
01:31:31,759 --> 01:31:34,528
der kan håndtere
kraftfuld teknologi.
2111
01:31:34,562 --> 01:31:35,830
Fordi vi får
2112
01:31:35,863 --> 01:31:37,264
kun mere og mere kraftfuld
teknologi.
2113
01:31:37,298 --> 01:31:40,034
CAROLINE:
Vi skal opgradere vores samfund,
2114
01:31:40,067 --> 01:31:41,902
og det første skridt er
kommer sammen
2115
01:31:41,936 --> 01:31:43,838
-og krævende...
-ALLE: Koordinering.
2116
01:31:43,871 --> 01:31:47,608
En eller anden form for international
samarbejde eller aftale om
2117
01:31:47,641 --> 01:31:48,909
hvad normerne skal være.
2118
01:31:48,943 --> 01:31:50,544
Du ved, hvordan skulle
de sættes ind...
2119
01:31:50,578 --> 01:31:52,146
Sådan rigtig
internationalt diplomati
2120
01:31:52,179 --> 01:31:53,781
blandt supermagterne.
2121
01:31:53,814 --> 01:31:56,784
Kineserne er lige så bekymrede
om det som amerikanerne.
2122
01:31:56,817 --> 01:31:58,085
Jeg synes det er svært,
du ved,
2123
01:31:58,119 --> 01:31:59,920
i strømmen
geopolitisk klima,
2124
01:31:59,954 --> 01:32:01,756
- men jeg tror, det er nødvendigt.
-RASKIN: Absolut.
2125
01:32:01,789 --> 01:32:05,059
På nøjagtig samme måde
sidste gang, at menneskeheden
2126
01:32:05,092 --> 01:32:09,163
udviklet en teknologi
det her farlige...
2127
01:32:09,830 --> 01:32:12,900
...der krævede en komplet,
hidtil uset skift
2128
01:32:12,933 --> 01:32:15,169
til strukturen i vores verden.
2129
01:32:15,770 --> 01:32:18,172
CAROLINE:
Så vi skal gøre det fuldstændigt,
2130
01:32:18,205 --> 01:32:20,307
hidtil uset skift igen.
2131
01:32:21,008 --> 01:32:24,678
Du ved, vi-vi taler med folk
som arbejder hos disse AI-virksomheder,
2132
01:32:24,712 --> 01:32:25,846
og de siger, de vil gøre
noget andet,
2133
01:32:25,880 --> 01:32:27,048
men de har brug for offentligt pres.
2134
01:32:27,081 --> 01:32:28,716
De har brug for regeringen
at gøre noget.
2135
01:32:28,749 --> 01:32:30,217
Så tager vi til DC,
og de siger,
2136
01:32:30,251 --> 01:32:32,153
"Nå, vi har brug for Silicon Valley
at gøre noget anderledes.
2137
01:32:32,186 --> 01:32:34,021
Det er dem, der skal
kom med autoværnene."
2138
01:32:34,055 --> 01:32:36,057
Og så peger alle
fingeren til en anden,
2139
01:32:36,090 --> 01:32:39,927
og det de er enige om er
at vi har brug for offentligt pres
2140
01:32:39,960 --> 01:32:41,796
for noget andet
at ske.
2141
01:32:41,829 --> 01:32:43,164
Og det er hvad du
2142
01:32:43,197 --> 01:32:44,799
og alle mennesker
at se denne film kan gøre.
2143
01:32:44,832 --> 01:32:45,833
CAROLINE:
Vi er nødt til at holde på lederne
2144
01:32:45,866 --> 01:32:47,334
i vores regeringer
2145
01:32:47,368 --> 01:32:48,969
og lederne af
disse virksomheder er ansvarlige.
2146
01:32:49,003 --> 01:32:51,639
BOEREE:
Uanset hvilket land du er i,
2147
01:32:51,672 --> 01:32:53,340
lad dem vide det
at du ikke er glad
2148
01:32:53,374 --> 01:32:54,975
med den nuværende status quo.
2149
01:32:55,009 --> 01:32:57,678
Så ja, det er kedeligt at sige
ring til din kongresmedlem.
2150
01:32:57,711 --> 01:32:59,880
Jeg siger ikke, at du skal
bare gør det, men ligesom,
2151
01:32:59,914 --> 01:33:01,215
det er vi nødt til at gøre.
2152
01:33:01,248 --> 01:33:02,883
Vi skal ligesom få
den involverede regering.
2153
01:33:02,917 --> 01:33:04,185
DANIEL: Så vi bare
ring til dem og sig:
2154
01:33:04,218 --> 01:33:06,253
"Hej, stop Big Tech
fra at ødelægge verden"?
2155
01:33:06,287 --> 01:33:09,223
CAROLINE: Nej, men det er der
tonsvis af virkelig indlysende,
2156
01:33:09,256 --> 01:33:11,225
ligetil ting
vi kan være krævende.
2157
01:33:11,258 --> 01:33:12,960
Vi har brug for gennemsigtighed.
2158
01:33:12,993 --> 01:33:14,795
Vi er nødt til at afslutte hemmeligholdelsen
der findes inde i disse laboratorier,
2159
01:33:14,829 --> 01:33:17,031
fordi de bygger
kraftfuld teknologi,
2160
01:33:17,064 --> 01:33:19,066
og offentligheden fortjener at vide
hvad sker der.
2161
01:33:19,100 --> 01:33:21,068
I sidste ende,
vi får brug for uafhængige,
2162
01:33:21,102 --> 01:33:23,637
objektive tredjeparter
at evaluere systemerne.
2163
01:33:23,671 --> 01:33:27,274
Vi kan ikke regne med virksomhederne
at bedømme deres egne lektier.
2164
01:33:27,308 --> 01:33:31,378
Hvis-hvis en virksomhed bruger AI og-og
har AI interagerer med dig,
2165
01:33:31,412 --> 01:33:35,249
det skal afsløre, at du er
interagere med et AI-system.
2166
01:33:35,282 --> 01:33:39,019
Ja. Og-og også vi har brug for
et system, der gør virksomheder
2167
01:33:39,053 --> 01:33:42,156
juridisk ansvarlig for
AI-systemer, som de producerer.
2168
01:33:42,189 --> 01:33:46,293
Det skal vi sørge for der
er test og sikkerhedsstandarder
2169
01:33:46,327 --> 01:33:48,662
der gælder for alle.
2170
01:33:48,696 --> 01:33:50,097
Vi har brug for nogle grundregler,
2171
01:33:50,131 --> 01:33:51,999
og vi skal blive ved med at tilpasse os
disse regler
2172
01:33:52,032 --> 01:33:55,002
med den hastighed, der
teknologien udvikler sig.
2173
01:33:55,035 --> 01:33:57,738
LEAHY: Der er i øjeblikket
mere regulering
2174
01:33:57,771 --> 01:33:59,840
om at sælge en sandwich
til offentligheden
2175
01:33:59,874 --> 01:34:03,410
end der er på at bygge
potentielt verdensomspændende AGI.
2176
01:34:03,444 --> 01:34:05,279
CAROLINE:
Og den sidste ting er
2177
01:34:05,312 --> 01:34:07,214
for at opgradere os selv.
2178
01:34:07,915 --> 01:34:10,284
Dette er ikke, ligesom, jobbet
af, ligesom sikkerhedsteamet
2179
01:34:10,317 --> 01:34:12,153
på et givet laboratorium eller den administrerende direktør.
2180
01:34:12,186 --> 01:34:13,854
Så sådan er det her
alles job.
2181
01:34:13,888 --> 01:34:15,156
Lad være med at forlade det
op til AI-eksperterne.
2182
01:34:15,189 --> 01:34:17,424
Ligesom, (bip) det.
Ligesom dette er øjeblikket
2183
01:34:17,458 --> 01:34:19,460
at vi skifter
fra, som
2184
01:34:19,493 --> 01:34:22,163
mest menneskelig kognitiv kraft
til, ligesom, AI kognitiv kraft,
2185
01:34:22,196 --> 01:34:23,197
og det påvirker alle,
2186
01:34:23,230 --> 01:34:25,166
og jeg ønsker, at folk skal være det
med i den samtale.
2187
01:34:25,199 --> 01:34:27,234
Og jeg vil sige, hvis du tænker
at AI vil dræbe os alle,
2188
01:34:27,268 --> 01:34:28,969
du burde arbejde
i AI-forskning
2189
01:34:29,003 --> 01:34:30,804
for at sikre, at det ikke gør det,
fordi du har
2190
01:34:30,838 --> 01:34:32,773
en enorm mængde agentur.
2191
01:34:32,806 --> 01:34:34,208
CAROLINE:
Hvem du end er,
2192
01:34:34,241 --> 01:34:36,177
du er en ekspert
i din egen branche,
2193
01:34:36,210 --> 01:34:39,413
i din egen skole,
i din egen familie,
2194
01:34:39,446 --> 01:34:43,050
og det er op til dig
hvordan AI bruges i dit liv.
2195
01:34:43,083 --> 01:34:45,319
Om du vil være med
din skolebestyrelse
2196
01:34:45,352 --> 01:34:48,389
eller-eller om du vil spørge
din arbejdsgiver
2197
01:34:48,422 --> 01:34:49,924
hvordan de bruger
AI-teknologier,
2198
01:34:49,957 --> 01:34:52,259
ligesom vi alle kan gøre arbejdet.
2199
01:34:52,293 --> 01:34:56,330
Det har mange fagforeninger været
ret effektiv til f.eks.
2200
01:34:56,363 --> 01:34:59,333
bestemme, hvordan de vil
til at interagere med disse systemer.
2201
01:34:59,366 --> 01:35:02,303
-Sygeplejerskeforeninger, lærerforeninger.
- (utydelig sang)
2202
01:35:02,937 --> 01:35:05,039
DANIELA AMODEI: Jeg ville elske
hvis forældre overalt
2203
01:35:05,072 --> 01:35:06,407
gik til AI-virksomhederne
og sagde,
2204
01:35:06,440 --> 01:35:08,342
"Hvordan kan du blive bedre
på dette?" Inklusiv os.
2205
01:35:08,375 --> 01:35:11,445
Så jeg grundlagde Encode Justice
da jeg var 15 år gammel.
2206
01:35:11,478 --> 01:35:15,082
Vi er verdens første
og største hær af unge mennesker
2207
01:35:15,115 --> 01:35:18,452
kæmper for menneskecentreret
kunstig intelligens.
2208
01:35:18,485 --> 01:35:21,288
Det er lige meget hvem du er,
selv de mindste handlinger hjælper,
2209
01:35:21,322 --> 01:35:24,291
og endda samtale starter
er virkelig, virkelig værdifuld.
2210
01:35:24,325 --> 01:35:26,293
DANIEL:
Så mit job kunne være, som
2211
01:35:26,327 --> 01:35:28,295
fortæl Bubby Lila om dette
til middag?
2212
01:35:28,329 --> 01:35:30,364
CAROLINE: Helt ærligt, ja,
det er en del af det.
2213
01:35:30,397 --> 01:35:32,099
Og det bliver vi nødt til at gøre
2214
01:35:32,132 --> 01:35:34,969
en masse ting, der
har vi ikke engang tænkt på endnu.
2215
01:35:35,002 --> 01:35:36,503
Folk vil se på
alt, hvad vi har skitseret
2216
01:35:36,538 --> 01:35:37,838
og sige: "Det er ikke nok."
2217
01:35:37,871 --> 01:35:39,473
Det, der betyder noget, er, at kræfterne
2218
01:35:39,507 --> 01:35:41,242
der virker
mod løsninger
2219
01:35:41,275 --> 01:35:44,979
begynde at overskride de kræfter, der
arbejder imod løsninger.
2220
01:35:45,012 --> 01:35:46,947
At gøre verden bedre
har altid været hårdt.
2221
01:35:46,981 --> 01:35:48,249
Det har aldrig været nemt.
2222
01:35:48,282 --> 01:35:50,317
Der har ligesom været
mange lorte ting
2223
01:35:50,351 --> 01:35:52,286
der er sket i historien,
og vi har haft--
2224
01:35:52,319 --> 01:35:54,121
som folk har haft
at håndtere det,
2225
01:35:54,154 --> 01:35:57,191
og så har de rejst sig
og ændrede det.
2226
01:35:57,224 --> 01:36:00,894
Der er et sindssygt antal
udfordringer foran os,
2227
01:36:00,928 --> 01:36:04,398
men hvis vi kan komme forbi dem,
2228
01:36:04,431 --> 01:36:08,536
vi kan låse op for en fremtid hinsides
vores vildeste fantasi.
2229
01:36:08,570 --> 01:36:10,804
CAROLINE:
Vi skal finde sammen
2230
01:36:10,838 --> 01:36:14,875
og find stien mellem
løftet og faren.
2231
01:36:14,908 --> 01:36:17,177
Vi kan ikke være pessimister
eller optimister.
2232
01:36:17,778 --> 01:36:20,180
Vi skal blive noget nyt.
2233
01:36:22,182 --> 01:36:25,185
En af mine venner ringer til mig
en apokaloptimist.
2234
01:36:25,219 --> 01:36:26,186
"Apokaloptimist"?
2235
01:36:26,220 --> 01:36:28,889
Det tror jeg måske
mit nye yndlingsord.
2236
01:36:28,922 --> 01:36:30,291
-(griner) -MAN: Måske
navnet på denne film.
2237
01:36:30,324 --> 01:36:31,892
- Det kan være navnet
af denne film. -(latter)
2238
01:36:31,925 --> 01:36:34,862
- "Apokaloptimist."
- "Apokaloptimist."
2239
01:36:34,895 --> 01:36:36,430
Ja.
2240
01:36:36,463 --> 01:36:37,898
Jeg tror ikke på undergang.
2241
01:36:37,931 --> 01:36:39,366
Jeg tror på livets ånd,
2242
01:36:39,400 --> 01:36:43,137
og det tror jeg på livet
om handleevnen.
2243
01:36:43,170 --> 01:36:44,905
- (publikumsang)
-Kompetencen til at relatere,
2244
01:36:44,938 --> 01:36:47,141
evnen til at føle.
2245
01:36:49,376 --> 01:36:51,345
-(utydelig missionssnak)
- (jubler)
2246
01:36:51,378 --> 01:36:54,315
Vi er nødt til at fordoble
mere og mere
2247
01:36:54,348 --> 01:36:57,384
om disse kapaciteter
som vi har som mennesker
2248
01:36:57,418 --> 01:36:59,853
de robotsystemer
vil aldrig have.
2249
01:37:00,487 --> 01:37:04,559
Det er tid lige nu
at træffe de beslutninger om
2250
01:37:04,592 --> 01:37:08,062
hvordan man guider det og støtter det
i stedet for at dele os.
2251
01:37:08,095 --> 01:37:10,898
DANIEL: Det lyder lidt som
opdrage et barn.
2252
01:37:10,931 --> 01:37:12,634
Det er, hvad der sker. Ja.
2253
01:37:12,667 --> 01:37:15,035
CAROLINE: AI kan have
mere rå intelligens
2254
01:37:15,069 --> 01:37:17,471
-end vores små menneskelige hjerner,
-(baby griner)
2255
01:37:17,504 --> 01:37:20,608
men vi er så meget mere
end blot vores intelligens.
2256
01:37:21,208 --> 01:37:25,379
Intelligens er-er
evnen til at løse problemer.
2257
01:37:25,412 --> 01:37:29,116
Visdom er evnen til at vide
hvilke problemer der skal løses.
2258
01:37:31,519 --> 01:37:34,188
(utydelig besætningssnak)
2259
01:37:34,221 --> 01:37:35,489
DANIEL:
Det kan stå på dit køleskab.
2260
01:37:35,523 --> 01:37:36,658
(griner)
2261
01:37:36,691 --> 01:37:38,626
YUDKOWSKY:
Så giv ikke op.
2262
01:37:38,660 --> 01:37:40,227
Det har menneskeheden gjort
2263
01:37:40,260 --> 01:37:43,030
sværere ting end dette
i sin historie.
2264
01:37:43,897 --> 01:37:46,967
Det er bare svært at overbevise
mennesker, som de burde.
2265
01:37:47,000 --> 01:37:49,336
♪ ♪
2266
01:37:52,072 --> 01:37:53,273
(lyden krakelerer)
2267
01:37:55,309 --> 01:37:57,277
DANIEL: Så, da jeg startede
laver denne film,
2268
01:37:57,311 --> 01:37:59,012
Jeg vil sige, at jeg var sådan
2269
01:37:59,046 --> 01:38:01,348
stort set et kynisk røvhul
om det hele.
2270
01:38:01,382 --> 01:38:03,450
I løbet af kurset
af at lave filmen,
2271
01:38:03,484 --> 01:38:05,152
Jeg er kommet til at forstå
det, som
2272
01:38:05,185 --> 01:38:06,987
det er det eneste
det kan vi ikke være.
2273
01:38:07,756 --> 01:38:09,990
...eller noget andet
vil du gerne diskutere?
2274
01:38:10,023 --> 01:38:11,992
Nej. Jeg tror, vi dækkede meget.
2275
01:38:12,025 --> 01:38:13,561
- Ja. (griner)
-MAN: Mange tak.
2276
01:38:13,595 --> 01:38:15,295
Tak.
2277
01:38:15,929 --> 01:38:17,498
DANIEL:
Dette er et problem, der er større
2278
01:38:17,532 --> 01:38:19,400
end nogen person.
2279
01:38:19,433 --> 01:38:22,136
Dette vil ændre verden i
måder, som vi ikke forstår.
2280
01:38:22,169 --> 01:38:24,037
Det er alt sammen sandt.
2281
01:38:24,071 --> 01:38:26,106
-(griner): Okay.
-(utydelig snak)
2282
01:38:26,140 --> 01:38:28,208
DANIEL:
Men det, vi gør, har agentur over
2283
01:38:28,242 --> 01:38:30,411
er, hvad vi gør ved det.
2284
01:38:30,444 --> 01:38:33,113
I takt med at grænseoverskridende AI vokser
eksponentielt dygtigere...
2285
01:38:33,147 --> 01:38:34,682
DANIEL:
Og virkeligheden
2286
01:38:34,716 --> 01:38:37,151
er det, hvis vi bare beslutter os
det er håbløst,
2287
01:38:37,184 --> 01:38:39,420
så er det håbløst.
2288
01:38:39,453 --> 01:38:41,221
...for at lægge mindre stress
på planeten Jorden...
2289
01:38:41,255 --> 01:38:43,257
DANIEL:
Men hvis du beslutter dig
2290
01:38:43,290 --> 01:38:46,293
som du vil prøve...
2291
01:38:47,194 --> 01:38:48,563
...så prøver du.
2292
01:38:48,596 --> 01:38:50,931
Og det er svært.
2293
01:38:51,733 --> 01:38:53,500
Men ved du hvad?
2294
01:38:53,535 --> 01:38:57,137
Store ting virker umulige
før de rent faktisk sker.
2295
01:38:58,673 --> 01:39:01,676
Men når de endelig sker,
2296
01:39:01,709 --> 01:39:05,713
det er fordi millioner af mennesker
foretog millioner af handlinger
2297
01:39:05,747 --> 01:39:08,182
for at få dem til at ske.
2298
01:39:08,215 --> 01:39:10,752
Og så...
2299
01:39:10,785 --> 01:39:13,220
vi må prøve.
2300
01:39:14,087 --> 01:39:15,523
(sukker tungt)
2301
01:39:21,663 --> 01:39:24,298
Der er for meget på spil.
2302
01:39:24,331 --> 01:39:26,366
♪ ♪
2303
01:39:33,040 --> 01:39:35,375
(film knitrende)
2304
01:39:37,545 --> 01:39:41,749
Se på de utrolige forandringer
vi har oplevet og overlevet
2305
01:39:41,783 --> 01:39:43,317
fra stenalderen,
2306
01:39:43,350 --> 01:39:46,487
og dog endnu større ændringer
skal stadig komme.
2307
01:39:46,521 --> 01:39:50,090
("Mistede det til at prøve"
af Son Lux spiller)
2308
01:40:19,086 --> 01:40:21,288
♪ ♪
2309
01:40:48,181 --> 01:40:50,718
♪ Hvad vil vi gøre nu? ♪
2310
01:40:50,752 --> 01:40:53,755
♪ Vi har mistet det til at prøve ♪
2311
01:40:53,788 --> 01:40:55,690
♪ Vi har mistet det ♪
2312
01:40:55,723 --> 01:40:57,457
♪ At prøve ♪
2313
01:41:00,193 --> 01:41:02,764
♪ Hvad vil vi gøre nu? ♪
2314
01:41:02,797 --> 01:41:05,733
♪ Vi har mistet det til at prøve ♪
2315
01:41:05,767 --> 01:41:07,602
♪ Vi har mistet det ♪
2316
01:41:07,635 --> 01:41:09,469
♪ At prøve ♪
2317
01:41:12,205 --> 01:41:14,709
♪ Hvad kan vi sige nu? ♪
2318
01:41:14,742 --> 01:41:17,745
♪ Vores mund lyver kun ♪
2319
01:41:17,779 --> 01:41:19,212
♪ Vores mund ♪
2320
01:41:19,246 --> 01:41:21,448
♪ Kun lyver ♪
2321
01:41:25,720 --> 01:41:28,255
♪ Hvad kan vi sige nu? ♪
2322
01:41:28,288 --> 01:41:31,358
♪ Vores mund lyver kun ♪
2323
01:41:31,391 --> 01:41:32,760
♪ Vores mund ♪
2324
01:41:32,794 --> 01:41:34,762
♪ Kun lyver ♪
2325
01:41:34,796 --> 01:41:37,197
♪ ♪
2326
01:42:01,522 --> 01:42:04,291
♪ Giv efter og kom ud ♪
2327
01:42:04,324 --> 01:42:07,294
♪ Vi rejser os i de døende ♪
2328
01:42:07,327 --> 01:42:08,763
♪ Vi rejser os ♪
2329
01:42:08,796 --> 01:42:11,164
♪ I den døende ♪
2330
01:42:13,568 --> 01:42:16,336
♪ Giv efter og kom ud ♪
2331
01:42:16,370 --> 01:42:19,272
♪ Vi rejser os i de døende ♪
2332
01:42:19,306 --> 01:42:20,775
♪ Vi rejser os ♪
2333
01:42:20,808 --> 01:42:23,176
♪ I den døende ♪
2334
01:42:25,546 --> 01:42:28,248
♪ Giv efter og kom ud ♪
2335
01:42:28,281 --> 01:42:31,251
♪ Vi rejser os i de døende ♪
2336
01:42:31,284 --> 01:42:32,787
♪ Vi rejser os ♪
2337
01:42:32,820 --> 01:42:35,155
♪ I den døende ♪
2338
01:42:37,558 --> 01:42:40,293
♪ Giv efter og kom ud ♪
2339
01:42:40,327 --> 01:42:43,263
♪ Vi rejser os i de døende ♪
2340
01:42:43,296 --> 01:42:44,532
♪ Vi ♪
2341
01:42:44,565 --> 01:42:46,601
♪ ♪
2342
01:43:16,263 --> 01:43:18,465
♪ ♪
2343
01:43:23,336 --> 01:43:25,840
♪ Åh, åh, åh, åh, åh
2344
01:43:25,873 --> 01:43:27,675
♪ Åh, åh, åh, åh
2345
01:43:27,709 --> 01:43:28,943
♪ Åh, åh ♪
2346
01:43:28,976 --> 01:43:31,913
♪ Åh, åh, åh, åh, åh, åh
2347
01:43:31,946 --> 01:43:33,648
♪ Åh, åh, åh, åh
2348
01:43:33,681 --> 01:43:34,916
♪ Åh, åh ♪
2349
01:43:34,949 --> 01:43:37,552
♪ Åh, åh, åh, åh, åh, åh
2350
01:43:37,585 --> 01:43:40,287
♪ Hvad vil vi gøre nu? ♪
2351
01:43:40,320 --> 01:43:43,290
♪ Vi har mistet det til at prøve ♪
2352
01:43:43,323 --> 01:43:45,026
♪ Vi har mistet det ♪
2353
01:43:45,059 --> 01:43:46,861
♪ At prøve ♪
2354
01:43:46,894 --> 01:43:49,530
♪ Åh, åh, åh, åh, åh, åh
2355
01:43:49,564 --> 01:43:52,332
♪ Hvad vil vi gøre nu? ♪
2356
01:43:52,365 --> 01:43:55,335
♪ Vi har mistet det til at prøve ♪
2357
01:43:55,368 --> 01:43:57,038
♪ Vi har mistet det ♪
2358
01:43:57,071 --> 01:43:58,940
♪ At prøve. ♪
2359
01:43:58,973 --> 01:44:01,374
♪ ♪
2360
01:44:23,798 --> 01:44:24,865
(sang slutter)